A Amazon anunciou que apresentará seu quadro para agentes de inteligência artificial confiáveis na VB Transform 2026. Este quadro visa aumentar a confiabilidade dos sistemas de inteligência artificial para líderes de TI que são cautelosos em relação ao acesso a sistemas corporativos.

O que aconteceu?

O laboratório de pesquisa em Autonomia AGI da Amazon desenvolveu um quadro para aumentar a confiabilidade dos agentes de inteligência artificial nos processos de negócios. Bryan Silverthorn destaca que os elementos focais deste quadro incluem consistência, resiliência, previsibilidade e segurança. Ele mencionou a inadequação dos padrões industriais existentes para avaliar o desempenho dos sistemas de inteligência artificial, enfatizando a importância de uma abordagem mais dinâmica e contínua para medir a confiabilidade.

Por que é importante?

Atualmente, os agentes de inteligência artificial estão adquirindo cada vez mais a capacidade de realizar tarefas de negócios de forma autônoma. No entanto, muitos gerentes de TI hesitam em conceder acesso a dados corporativos a esses sistemas. O objetivo do quadro desenvolvido pela Amazon é aumentar a confiança e garantir que os sistemas de inteligência artificial operem sob supervisão humana. Nesse contexto, os model guardrails (mecanismos de proteção de modelo) não são considerados suficientes; pois esses mecanismos podem frequentemente incluir riscos como acesso não autorizado a dados ou ferramentas. A abordagem mais estruturada da Amazon visa reduzir essas preocupações de segurança, garantindo que os mecanismos passem por auditoria.

Pesquisas mostram que apenas 4% dos líderes de tecnologia confiam plenamente nos mecanismos de proteção de modelo existentes. Essa situação indica uma grande preocupação em relação ao nível de confiabilidade dos sistemas de inteligência artificial atuais. A nova abordagem da Amazon visa resolver esse problema, ao mesmo tempo que pode influenciar as estratégias de inteligência artificial de outras grandes empresas de tecnologia. Por exemplo, concorrentes como a Waymo podem se voltar para metodologias semelhantes para desenvolver seus próprios padrões de segurança e eficiência.

O que está mudando?

O quadro desenvolvido pela Amazon tem o potencial de redefinir o papel dos agentes de inteligência artificial no mundo dos negócios. Empresas corporativas podem, ao adotar esses sistemas de inteligência artificial confiáveis, criar processos de negócios mais seguros e eficazes que operem sob supervisão humana. Além disso, isso pode permitir uma adoção mais ampla de soluções de inteligência artificial, mesmo em setores de alto risco, como o financeiro.

Muitas empresas visam, com essa nova abordagem, reduzir os potenciais riscos da inteligência artificial, criando uma estrutura mais eficiente e segura. O quadro proposto pela Amazon não apenas reforçará a confiança, mas também pode levar outras empresas do setor a tomar medidas semelhantes.

O que vem a seguir?

No futuro, a aceitação dos agentes de inteligência artificial no mundo dos negócios parece estar diretamente proporcional à adoção de quadros de confiabilidade. O modelo apresentado pela Amazon pode servir como um exemplo de como as aplicações de inteligência artificial devem ser desenvolvidas, não apenas para seus próprios produtos, mas para todo o setor de tecnologia.

Além disso, a meta de outras empresas de tecnologia de desenvolver quadros de confiabilidade semelhantes pode aumentar a concorrência no setor. Isso pode ser um passo importante para tornar os sistemas de inteligência artificial mais confiáveis e eficazes. No entanto, o ponto mais importante a ser observado nesse processo é garantir que esses sistemas operem sob supervisão humana. Assim, os potenciais perigos dos agentes de inteligência artificial podem ser minimizados.