A intelig\u00eancia artificial \u00e9 cada vez mais usada para otimizar decis\u00f5es em contextos de alto risco. Em especial, sistemas aut\u00f4nomos podem indicar estrat\u00e9gias de distribui\u00e7\u00e3o de energia que reduzem custos e mant\u00eam tens\u00f5es est\u00e1veis. No entanto, surgem perguntas sobre justi\u00e7a e impactos desiguais em comunidades vulner\u00e1veis.<\/p>\n
Pesquisadores do MIT desenvolveram um m\u00e9todo automatizado de avalia\u00e7\u00e3o \u00e9tica que equilibra resultados mensur\u00e1veis, como custo e confiabilidade, com valores subjetivos, como equidade. A ideia \u00e9 identificar dilemas \u00e9ticos antes da implanta\u00e7\u00e3o de sistemas aut\u00f4nomos.<\/p>\n
O m\u00e9todo, chamado SEED-SET, separa avalia\u00e7\u00f5es objetivas de julgamentos humanos e usa um modelo de linguagem grande (LLM) como proxy para representar prefer\u00eancias de stakeholders. O objetivo \u00e9 facilitar a sele\u00e7\u00e3o de cen\u00e1rios para an\u00e1lises mais profundas.<\/p>\n
A abordagem adota um design experimental escal\u00e1vel que n\u00e3o depende de dados de avalia\u00e7\u00e3o pr\u00e9-existentes. Em sistemas como redes de distribui\u00e7\u00e3o de energia, ela identifica cen\u00e1rios informativos onde as metas objetivas e os valores humanos se alinham ou divergem.<\/p>\n
SEED-SET funciona em duas camadas: uma parte objetiva avalia o desempenho em m\u00e9tricas como custo, enquanto uma parte subjetiva captura percep\u00e7\u00f5es de justi\u00e7a de diferentes grupos de usu\u00e1rios. Essa decomposi\u00e7\u00e3o reduz o n\u00famero de avalia\u00e7\u00f5es necess\u00e1rias.<\/p>\n
Para testar a metodologia, pesquisadores aplicaram SEED-SET a sistemas simulados de rede el\u00e9trica e de rotas urbanas. O framework gerou mais de duas vezes mais cen\u00e1rios \u00f3timos do que estrat\u00e9gias de refer\u00eancia no mesmo tempo, revelando casos antes n\u00e3o considerados.<\/p>\n
Os investigadores destacam que o conjunto de cen\u00e1rios varia conforme as prefer\u00eancias dos usu\u00e1rios, o que indica boa sensibilidade da ferramenta a diferentes valores \u00e9ticos. Ainda n\u00e3o h\u00e1 estudo de uso com decis\u00f5es reais, segundo os autores.<\/p>\n
O estudo foi financiado em parte pela Ag\u00eancia de Projetos de Pesquisa Avan\u00e7ada de Defesa dos EUA. Os resultados ser\u00e3o apresentados na Confer\u00eancia Internacional sobre Representa\u00e7\u00f5es de Aprendizado.<\/p>\n","protected":false},"excerpt":{"rendered":"