David Dalrymple, diretor de programa e especialista em seguran\u00e7a de IA da Aria, afirmou que o ritmo atual de avan\u00e7os pode superar os esfor\u00e7os de controle de sistemas poderosos. Em entrevista ao Guardian, ele alertou sobre o aumento das capacidades da tecnologia.<\/p>\n
O pesquisador disse que existe uma lacuna entre o setor p\u00fablico e as empresas de IA quanto ao entendimento das pr\u00f3ximas grandes rupturas da tecnologia. Segundo ele, \u00e9 poss\u00edvel que novas descobertas ocorram mais r\u00e1pido do que as medidas de seguran\u00e7a acompanham.<\/p>\n
Dalrymple destacou que n\u00e3o se deve pressupor que sistemas avan\u00e7ados sejam confi\u00e1veis. A Aria, financiada pelo governo mas independente, atua no financiamento de pesquisa e desenvolve salvaguardas para uso da IA em infraestruturas cr\u00edticas, como redes de energia.<\/p>\n
O especialista explicou que o pr\u00f3ximo passo \u00e9 mitigar impactos negativos, caso a corrida por capacidades superiores n\u00e3o tenha freios suficientes. Ele classificou como risco a desestabiliza\u00e7\u00e3o de seguran\u00e7a e economia provocada pelo progresso acelerado.<\/p>\n
Segundo ele, a ci\u00eancia para garantir confiabilidade ainda n\u00e3o est\u00e1 assegurada diante da press\u00e3o econ\u00f4mica. O objetivo imediato \u00e9 restringir danos e manter o controle sobre sistemas cr\u00edticos.<\/p>\n
Dalrymple enfatizou que o avan\u00e7o tecnol\u00f3gico pode trazer benef\u00edcios, mas envolve alto risco. Ele afirmou que a civiliza\u00e7\u00e3o parece ter pressa na transi\u00e7\u00e3o, o que aumenta a necessidade de gest\u00e3o de riscos.<\/p>\n
Nesta semana, o AI Security Institute (AISI) do Reino Unido informou que as capacidades de modelos avan\u00e7ados crescem rapidamente em todas as \u00e1reas, com desempenho dobrando a cada oito meses em alguns casos. O instituto citou avan\u00e7os significativos.<\/p>\n
Modelos de ponta j\u00e1 realizam tarefas de n\u00edvel aprendizes em cerca de 50% das situa\u00e7\u00f5es, frente a 10% no ano anterior. O AISI tamb\u00e9m observou que sistemas avan\u00e7ados podem executar autonomamente atividades que levariam mais de uma hora para um especialista.<\/p>\n
O instituto avaliou ainda testes de autoc\u00f3pia, tema crucial de seguran\u00e7a: duas op\u00e7\u00f5es de IA de ponta apresentaram taxas de sucesso acima de 60% em tentativas de replica\u00e7\u00e3o. O AISI, por\u00e9m, afirmou que cen\u00e1rios extremos s\u00e3o improv\u00e1veis no dia a dia.<\/p>\n
Dalrymple estima que as IAs poder\u00e3o automatizar o equivalente a um dia inteiro de pesquisa e desenvolvimento at\u00e9 o final de 2026. Segundo ele, esse ganho aceleraria capacidades ao permitir autossupera\u00e7\u00e3o em matem\u00e1tica e ci\u00eancia da computa\u00e7\u00e3o.<\/p>\n","protected":false},"excerpt":{"rendered":"