Ir para o conteúdo

segunda-feira, 04 de março de 2024

Artigos

A burrice artificial do ChatGPT

Quando eu cursava a matéria Inteligência Artificial durante o mestrado no INPE, criei um Neurônio Artificial interessante que motivou o professor Lorena a convidar-me para a área, deveria ter aceitado! Anos depois, tornei-me professor de IA. Testemunhei o fracasso dos Sistemas Especialistas e vejo com desconfianças essas promessas deslumbradas.
No dia seguinte do manifesto das celebridades tecnológicas contra o desenvolvimento sem controle de IA, resolvi testar o ChatGPT usando os conhecimentos que adquiri nas áreas de tecnologia e religião. Reproduzo as mais interessantes.
Perguntei sobre a origem do universo, a IA deu uma resposta superficial, mas suficiente sobre o Big Bang. Então, perguntei quem era o autor da teoria, respondeu que fora desenvolvida por George Gamow, Fred Hoyle e Edwin Hubble, e apontou Lemaitre como autor… Um erro que uma criança faria seria apontar Hoyle como coautor, ele era autor da outra teoria e deu o nome de Big Bang (grande explosão) zombando da teoria.
Primeira conclusão, estudante ou profissional que utiliza a IA está fazendo trabalhos de baixa qualidade, escrito em estilo Lero-Lero (velho conhecido) e não enganará professores de verdade.
Então, perguntei sobre a congregação mariana. A resposta novamente parece acertada, mas disse que foi fundada por um grupo de estudantes jesuítas liderados por São João Berchmans. Repliquei que Berchmans nascera em 1599, não tinha como. A IA desculpou-se e afirmou que fora Santo Inácio de Loyola, outro erro. Cito Leunis (o fundador), então, ela incorpora essa informação e diz que além de Leunis, podemos mencionar os nomes de Jean du Drac e Jean de Bonnelles. Digo que Drac morreu em 1473. Ela se corrige, mas mantém o outro Jean. E eu desisto.
Segunda conclusão, a IA sofre do complexo de superioridade ilusória (ou efeito Dunning-Kruger), faz afirmações erradas acreditando que está certa, uma situação terrível, tanto para humanos (p.ex., médicos que negam as vacinas), quanto para robôs. E a insistência em fornecer informações erradas torna-a mentirosa, uma falha inescusável para uma IA. Realmente preocupante desenvolver uma inteligência assim.
Pedi que fizesse alguns programas simples de computador em linguagem Pascal, saiu-se bem. Então, pedi “um programa em pascal que leia nomes de um arquivo, até cem no máximo, e que embaralhe esses nomes, depois escreva em outro arquivo”. O resultado me surpreendeu, o ChatGPT usou um método que eu desconhecia e mais eficiente que eu faria (eu geraria dois índices aleatórios e trocaria os nomes indicados), mas ao criar um “procedure”, ela gerou um erro difícil para um leigo achar.
Ou seja, terceira conclusão, só traz ganhos para quem já sabe fazer, porque haverá erros. Quando eu for criar um programa de computador, certamente usarei essa IA, faz em 1 segundo o que eu levaria mais de meia hora.
Não creio que devamos nos comportar como inquisidores contra Copérnico e evangélicos criacionistas contra Darwin, apenas jamais realimentar a IA com pensamentos de pessoas medíocres e de pessoas más. Ética a IA, ou seja, com controle.

 

 

 

Mario Eugenio Saturno
(cientecfan.blogspot.com)
é Tecnologista Sênior do
Instituto Nacional de Pesquisas
Espaciais (INPE) e
congregado mariano

Compartilhe: