A Inteligência Está na Interação: Projetando IA para a Forma como as Pessoas Realmente Trabalham

Frequentemente, sistemas de IA passam em todos os testes, apenas para decepcionar as equipes quando são efetivamente implementados. Essa lacuna frustra líderes que fizeram tudo certo no aspecto técnico. Isso acontece porque a inteligência da IA não vem apenas do modelo; ela emerge por meio das interações entre a IA e as pessoas que a utilizam. No entanto, a maioria das equipes não pensa em projetar intencionalmente suas soluções de IA levando essas interações em consideração.

Este whitepaper mostra como projetar o espaço entre a IA e os humanos para que a inteligência correta surja, as pessoas mantenham o controle e sua organização possa se responsabilizar pelo que o sistema faz. Faça o download para conhecer o framework AIx, as oito disciplinas por trás do comportamento responsável da IA e as cinco perguntas a serem respondidas antes de começar a construir.

Por que a IA muda o desafio de design

Softwares tradicionais executam a lógica que você define. A IA generativa faz algo diferente. Ela pode produzir novos resultados que ninguém especificou com antecedência, incluindo suas respostas dentro de uma conversa. Uma pessoa faz uma pergunta, a IA responde, a pessoa adiciona contexto ou contesta, e a troca continua. O valor surge à medida que humanos e IA trocam informações, desafiam suposições e refinam o resultado juntos. Isso torna a interação em si um ativo de negócios, e é por isso que os líderes precisam projetar a IA deliberadamente, em vez de simplesmente acoplar um modelo a um processo existente.

Inteligência funcional, sistemas falhos

Considere uma empresa farmacêutica global que lança um sistema de IA para ajudar a preencher prontuários médicos. O modelo tem um bom desempenho nos testes e o piloto parece um sucesso. Então, ele entra em operação. Um especialista abre o prontuário de um paciente e vê um medicamento sugerido pela IA. Algo parece estranho, mas a interface oferece apenas duas opções: aceitar ou cancelar. Aceitar é o padrão e o caminho mais rápido. Cancelar significa atraso e trabalho extra.  

O especialista aceita, e o medicamento está incorreto.

Nenhum clínico incompetente ou desenvolvedor descuidado causou isso. A interação tornou a aceitação mais fácil do que questionar a IA, e o sistema ocultou sua incerteza em vez de mostrá-la. O modelo produziu uma resposta, e a interação em torno dele moldou o resultado.

A mesma IA, um resultado diferente

Agora, volte o cenário. Mesma empresa, mesma IA, mas desta vez a equipe projeta a interação em torno da incerteza antes do lançamento. Eles definem como o sistema deve detectar e mostrar a incerteza. Quando uma resposta é de alto risco, o sistema pode acionar uma revisão extra, exibir informações de suporte, exigir confirmação, encaminhar a decisão para uma pessoa qualificada ou documentar a escolha sem tirar ninguém do fluxo de trabalho.  

Nada sobre o modelo subjacente mudou; apenas a interação. A especialista não está mais decidindo se deve confiar em uma máquina. Ela está trabalhando dentro de um sistema criado para apoiar seu julgamento.

Projetando o espaço entre a IA e o humano

Projetar IA é mais do que escolher um modelo ou melhorar sua precisão; trata-se de projetar o espaço onde pessoas e IA trabalham juntas. Em uma empresa, esse espaço vai muito além da tela. Ele inclui os fluxos de trabalho, informações, regras de negócios, controles, sistemas e pessoas que moldam como a IA é usada.  

Quando a IA age ou fala em nome da sua empresa, sua organização é responsável por como essa capacidade é usada e pelas consequências que ela cria. Isso torna a verdadeira pergunta para qualquer pessoa que esteja construindo um sistema de IA a seguinte: se a inteligência emerge por meio da interação, como você projeta essa interação para que a inteligência correta surja?

Oito disciplinas para projetar uma IA responsável

Nenhuma equipe sozinha pode definir como um sistema de IA deve se comportar. O comportamento responsável da IA vem de oito disciplinas trabalhando juntas antes do início do desenvolvimento, como parte do framework AIx da Marlabs para design de interface do usuário e experiência do usuário (UI/UX):

• O design de interação humana apoia a confiança sem incentivar a aceitação cega, para que as pessoas saibam quando agir com base em uma resposta e quando questioná-la.

• O design de processos e fluxos de trabalho decide onde a IA atua, onde as pessoas atuam e onde um ponto de verificação humano é necessário.

• O fluxo de informações torna os dados, a incerteza, a lógica e as fontes que uma pessoa precisa visíveis no momento da decisão.

• O design de conhecimento molda o comportamento da IA em torno das regras de domínio, limites e contexto do negócio em que ela opera.

• Risco e conformidade transformam a governança em comportamento concreto: o que o sistema analisa, documenta, audita, restringe ou escala.

• Avaliação e monitoramento testam e medem como o sistema se comporta após o lançamento e o vinculam aos resultados de negócio.

• A engenharia traduz o comportamento acordado em lógica de sistema, estados, permissões e restrições.

• A responsabilidade de negócio mantém uma pessoa nomeada como responsável pela decisão, pelo risco e por como o sistema se comporta após o lançamento.

Da Capacidade de IA à Experiência de IA

Uma capacidade de IA lhe dá acesso ao que a tecnologia pode fazer, mas uma experiência de IA determina como as pessoas usam essa capacidade, como o fluxo de trabalho responde e como sua organização a governa. Um modelo pode ser tecnicamente forte e ainda assim produzir um resultado de negócio ruim, e é por isso que a experiência importa tanto quanto o modelo.  

O framework AIx da Marlabs, parte do framework mais amplo AgilityAI, reúne essas disciplinas para definir o comportamento da IA, moldar as interações entre humanos e IA, projetar fluxos de trabalho e controles, e estabelecer como você avaliará a experiência após o lançamento. Leia o whitepaper completo para projetar o espaço entre as pessoas e a IA, de modo que a inteligência que emerge seja útil, confiável, controlável e responsável.