O papel essencial do fator humano na computação e na IA

The MIT Schwarzman College of Computing promoveu um seminário de um dia sobre ética na computação e impacto social. O evento ocorreu em 30 de abril, nos EUA, reunindo pesquisadoras e pesquisadores que discutiram como a IA transforma a sociedade e quais são as implicações éticas. O encontro ocorreu no marco da iniciativa Social and Ethical Responsibilities of Computing (SERC).

O seminário apresentou apresentações de bolsistas recentes do SERC em temas como previsão de poluição do ar e implantação responsável de visão computacional. Também houve painéis sobre alinhamento de IA e IA na educação, além de uma palestra de abertura com o pesquisador Jon Kleinberg, da Cornell. A programação incluiu uma sessão de pôsteres com projetos estudantis.

Brian Hedden, co-reitor associado do SERC, destacou a relevância da pesquisa do MIT sobre IA benéfica à humanidade. Nikos Trichakis, também co-reitor associado, ressaltou que o seminário evidencia a variedade de trabalhos em curso na instituição e reforça a necessidade de refletir sobre as responsabilidades ao moldar o futuro da computação.

Alinhando IA aos valores humanos

Painel moderado por Dylan Hadfield-Menell discutiu como incorporar valores humanos em IA de alta complexidade. O debate questionou quem decide quais valores compõem um marco ético e como evitar distorções na tradução desses valores para máquinas.

Iason Gabriel, da Google DeepMind, usou a comparação com um juiz para ilustrar o desafio. A IA deve interpretar regras com bom caráter, sem exigir perfeição, ajustando decisões aos valores morais definidos pela sociedade.

Bailey Flanigan, professora assistente de ciência política, destacou a necessidade de definições claras sobre quem governa diferentes tipos de sistemas de IA. Bernardo Zacka, também professor, apontou a urgência de entender a sabedoria dos sistemas que estamos substituindo.

Apesar do ritmo acelerado de implantação, os participantes mostraram otimismo sobre o progresso no alinhamento da IA, enfatizando o papel humano no desenho desses sistemas.

Offloading versus uplifting

Painel sobre IA na educação discutiu usos atuais e como manter rigor acadêmico. Pesquisadores exploraram formas de a IA apoiar a aprendizagem sem comprometer objetivos instrucionais.

Marta McAlister, diretora da Gemini for Education, analisou aplicações em sala de aula e formas de manter a qualidade pedagógica. Professores Eric Klopfer e Samuel Madden discutiram o dilema entre descarregar tarefas com IA e auxiliar no raciocínio dos alunos.

Madden explicou que muitos estudantes recorrem à IA em momentos de dificuldade, o que pode prejudicar o desenvolvimento de competências. Klopfer sugeriu revisar o currículo como um todo para manter o desafio adequado.

Moderador Justin Reich ressaltou que o envolvimento dos estudantes é essencial para escolhas conscientes sobre o uso de IA, com participação de docentes em discussões sobre implementação.

Pat Pataranutaporn afirmou que IA não é um conceito único e deve ser desenhada de formas diferentes para promover criatividade e pensamento crítico, medindo o aprendizado pelos impactos, não apenas pela obtenção de respostas.

Desafios de replicar o raciocínio humano

Jon Kleinberg fez a palestra de abertura, intitulada AI’s Models of the World, and Ours. O foco foi a diferença entre IA que gera modelos do mundo e a compreensão humana, destacando falhas potenciais quando máquinas e pessoas trabalham juntas.

O exemplo utilizado envolveu jogos de xadrez: motores superam humanos, mas suas estratégias nem sempre são compreensíveis a quem joga junto. Essa assimetria pode gerar confusão na cooperação humano-IA.

Kleinberg argumentou que a transferência de decisões da máquina para o humano pode levar a problemas de leitura dos padrões preditivos da IA. O debate levantou a questão central: as diferenças entre raciocínio humano incorporado e raciocínio algorítmico afetam a eficácia das interações.