Helloise Mota
O design que se adapta ao operador não nasceu com a inteligência artificial
Muito antes dos algoritmos aprenderem sozinhos, sistemas críticos já precisavam responder ao cansaço, ao estresse e à atenção de quem os operava.
O estado por trás da tela
Recentemente assisti ao Webinar "Carreira em Design: De UX a AX Designer", promovido pela The Starter. Nele, a palestrante, Marta Fernandez, trouxe o conceito de "Perfil de Estado Cognitivo", que funciona como uma camada adicionada à persona estática: um operador que inspeciona um painel de controle às oito da manhã não é a mesma pessoa que revisa o mesmo painel às três da tarde. No fim de um turno de doze horas, sob ruído constante e pressão de responsabilidade, a atenção cai, a memória de curto prazo fica mais seletiva, a tolerância a qualquer ambiguidade da interface diminui. Esse conjunto de variações, motivado por fadiga, estresse, ritmo circadiano e carga cognitiva acumulada, forma o “perfil de estado cognitivo”.
​
Uma persona estática descreve quem o usuário é, já um perfil de estado cognitivo descreve como esse mesmo usuário varia ao longo do dia, e propõe que o sistema se adapte a essa variação em vez de exigir que o humano compense sozinho as falhas da interface. Depois de 5 anos trabalhando em setores regulados, como o elétrico e o industrial, me perguntei: esse conceito é novo ou apenas não havia sido nomeado?
​
Nesses ambientes, um erro de leitura, um clique tardio ou uma informação mal priorizada não geram apenas frustração, podem gerar um desligamento não programado, um acidente ou uma falha em cascata que afeta milhares de pessoas e alto prejuízo financeiro. Muito antes do uso da IA no modelo atual, sistemas para ambientes regulados sempre precisaram considerar o estado do operador. O que mudou nos últimos anos foi a natureza do sistema que precisa fazer essa adaptação.
​
Como já publiquei aqui antes, o estado cognitivo não depende apenas da mente do operador, ligado à fadiga e ao estresse, mas também é moldado pelo ambiente físico ao redor: a iluminação de um pátio a céu aberto, o ruído de um equipamento, luvas de proteção que dificultam o toque na tela. Um perfil de estado cognitivo bem construído cruza o plano interno com o plano externo e ignorar qualquer um dos dois produz o mesmo resultado: uma interface que funciona em laboratório e falha em campo.
Da sala de controle ao algoritmo que aprende
A ideia de que o design deve responder ao estado humano tem raízes bem anteriores à inteligência artificial. Vale reconstituir essa linha do tempo para separar o que é realmente novo do que é apenas uma versão mais visível de um problema antigo.
O modelo de Rasmussen explica por que a mesma interface pode ser segura pela manhã e arriscada no fim de um turno longo. Uma tarefa automática exige pouco da atenção consciente. Uma tarefa baseada em regras exige reconhecer um padrão e aplicar um procedimento memorizado; uma tarefa baseada em conhecimento exige raciocinar do zero diante de uma situação nova, o modo mais lento e mais vulnerável ao erro; já um bom projeto de interface mantém o operador no nível mais automático possível sempre que a segurança permite.
​
Os marcos anteriores a 2016 compartilham da premissa de que o sistema é determinístico. A mesma ação do operador produz o mesmo resultado, e o trabalho da interface é tornar esse mapeamento legível. O livro Tragic Design mostra o preço de ignorar essa premissa na prática com um dos casos mais citados envolvendo uma enfermeira que, sobrecarregada por um turno exaustivo utilizando um software hospitalar mal projetado, cometeu um erro fatal em uma paciente jovem. O problema não estava apenas no código, mas também na relação entre o que a interface exigia de uma profissional cansada e sob pressão com o que ela conseguia processar naquele momento.
A partir de 2016, um novo tipo de sistema começa a entrar nos mesmos ambientes regulados, trazendo um problema que os modelos anteriores não previam. Sistemas de inteligência artificial adaptativos podem mudar de comportamento sem que uma linha de código da aplicação hospedeira seja alterada. Isso pode acontecer por caminhos diferentes, como o aprendizado contínuo a partir de interações, comportamento não testado amplamente em situações extremas, ou a atualização não detalhada de uma versão ou de uma base de dados por trás do sistema. O termo técnico para esse último caso é “drift de modelo”, que significa a degradação ou a mudança de comportamento ao longo do tempo por causa de fatores externos ao código que o operador enxerga.
Para o Design, a consequência é direta. A premissa de que a interface só precisa tornar legível um mapeamento fixo deixou de valer sozinha. Regulações recentes sobre inteligência artificial, como o AI Act europeu, já preveem parte desse risco ao exigir que sistemas de alto risco sejam projetados para evitar o viés de automação, a tendência humana de confiar demais ou de menos em uma máquina cujo comportamento não é mais totalmente previsível.
O que mudou nos últimos três anos?
Em um texto publicado em 2023 argumentei que interfaces para ambientes industriais deveriam se apoiar em três pilares — segurança, agilidade e redução do esforço cognitivo —, e que fornecer insights processados, em vez de dados brutos, era o caminho mais curto para uma decisão rápida e correta. Esse argumento continua válido. O que mudou foi a quantidade de variáveis que um UX Designer precisa acompanhar para sustentar os mesmos três pilares.
​
Quando o sistema era determinístico, já era necessário mapear os estados possíveis do operador e ajustar a interface considerando os piores cenários possíveis. Quando o sistema também aprende, também erra de forma imprevisível e também pode mudar de comportamento por uma atualização silenciosa, a variável a acompanhar deixa de ser somente o estado humano. Passa a ser a relação entre o estado humano e a confiabilidade momentânea da máquina. Um operador que confia demais em uma recomendação de IA passando por drift corre um risco diferente do operador que desconfia demais de uma IA que, naquele momento, está correta.
Esse deslocamento aparece em outro conceito citado na mesma palestra sobre AX Design, o de jornada de decisão. Em vez de mapear apenas o caminho que um usuário percorre para completar uma tarefa, a jornada de decisão mapeia quem detém a autoridade em cada etapa: o humano, a máquina ou os dois. Ela obriga o UX Designer a decidir com antecedência o que acontece no pior cenário possível e como o sistema pode falhar. Essa jornada exige transparência e explicabilidade, ou seja, a interface deve ser capaz de revelar por que chegou a uma conclusão e os impactos de seguir ou não com uma determinada tomada de decisão, para que a supervisão humana seja real e não apenas simbólica.
Temos então espaço para 3 frentes: uma delas trata da governança do que a inteligência artificial deve ou não decidir sozinha; outra define as consequências de um erro da máquina e se a ação é reversível; e a terceira finalmente cuida da supervisão humana sobre sistemas críticos. Nenhuma dessas frentes substitui a ergonomia cognitiva tradicional, mas sim se somam a ela.
Resiliência é o critério que sobra
O pesquisador Erik Hollnagel descreve essa mudança de foco com um nome próprio: Safety II. Em vez de medir a segurança pela ausência de falhas, a proposta é medir a capacidade de um sistema de se ajustar tanto a condições esperadas quanto a condições inesperadas. Um sistema resiliente não é o que nunca erra, mas sim o que absorve o erro sem deixar que ele se transforme em acidente.
O perfil de estado cognitivo é uma forma concreta de colocar essa ideia em prática. Ele reconhece que o operador varia, que a máquina, dependendo do modelo, também pode variar, e que a interface precisa acompanhar as duas variações ao mesmo tempo, ajustando prioridade, ritmo e nível de detalhe conforme o momento exige. Essa exigência não nasceu com a inteligência artificial, dá sequência ao que a ergonomia cognitiva industrial já vinha construindo desde Three Mile Island, agora com mais variáveis para acompanhar e uma régua mais alta para o que conta como falha aceitável, tornando visível e urgente o que a ergonomia cognitiva já aplicava há décadas.
Referências