Problemas de precisão e credibilidade que surgem com a Inteligência Artificial Generativa 

Embora a inteligência artificial generativa (IAG) esteja em ascensão e se tornando uma ferramenta valiosa em várias áreas dentro das organizações, cresce também a percepção de que seu uso em ambientes profissionais é mais complexo do que a princípio poderia parecer. Essa relação de ambivalência foi o tema do painel “IA Generativa nas Organizações – Riscos, Desafios e Oportunidades”, com mediação de Elizabeth Nicolau Saad Corrêa, professora titular sênior do departamento de jornalismo e editoração da ECA/USP.

O painelista Demetrios dos Santos, head de Produtos na OKN Technology, começou falando sobre como qualquer um pode experimentar e se divertir com modelos de IAG. “Mas implementar uma ferramenta que lida com clientes, dados sensíveis e processos internos requer conhecimento especializado e uma metodologia adequada”, avisa o especialista. “Além disso, devido às características específicas da IAG, nem tudo pode ser automatizado por meio dessa tecnologia”, avisa. 

Demetrios ainda falou sobre como, com o uso indiscriminado da IAG, corremos o risco de nos tornarmos dependentes dela a ponto de passarmos a ter dificuldades de escrever, ou mesmo de pensar, sem o auxílio da ferramenta, assim como, com uso do Waze, por exemplo, tendemos a não aprender mais novos caminhos.

Márcio Carneiro dos Santos, coordenador do grupo de trabalho sobre Inteligência Artificial da SET, também alerta quanto à falta de precisão dessas ferramentas. “Criar estratégias de comunicação para redes sociais, se você precisar muito de precisão, de dados do exercício, dá pra fazer? Dá, mas você precisa ter cuidado redobrado, porque provavelmente a IAG vai se enganar”, alerta Márcio.