- Valerie Veatch, diretora de Ghost in the Machine, usa o documentário para mostrar como a ciência racial moldou a tecnologia de IA generativa atual.
- A obra acompanha a repercussão do Sora, modelo de IA de texto para vídeo da OpenAI, lançado em 2024, e as imagens racistas e sexistas que ele às vezes produz.
- Veatch relata que, ao compartilhar preocupações sobre outputs preconceituosos, a comunidade de entusiastas de IA e a OpenAI foram superficiais ou não deram solução, o que a levou a questionar o funcionamento da tecnologia.
- O filme traça ligações históricas entre eugenia, estatística e inteligência artificial, mostrando como ideias racialistas influenciaram a evolução de ferramentas de IA e de machine learning (aprendizado de máquina).
- Ghost in the Machine ficará disponível para streaming via Kinema de 26 a 28 de março, antes da exibição na PBS no outono; houve uma correção publicada sobre o uso de termos técnicos.
Valerie Veatch, diretora do documentário Ghost in the Machine, busca explicar como a ciência racial moldou o momento atual da tecnologia de IA. O filme parte do interesse inicial pela IA gerativa Sora, da OpenAI, lançada em 2024, para mostrar dificuldades e limites encontrados no uso da tecnologia.
Ao longo da produção, Veatch observa com ressalvas que imagens geradas por IA frequentemente refletem racismo e sexismo, mesmo quando não são explicitamente solicitadas. Essa constatação ajudou a moldar o foco do documentário, que privilegia o histórico que levou ao estado atual da gen AI.
Veatch critica a linguagem usada por empresas de IA, destacando que o termo inteligência artificial é frequentemente empregado como ferramenta de marketing. O filme reconstitui a origem do conceito, rememorando a gênese do termo em 1956, com John McCarthy, e ampliando o contexto até o século XIX.
Arautos da eugenia e o que isso significa para a IA
A obra contextualiza o nascimento da eugenia na Inglaterra vitoriana, com Francis Galton como um dos seus expoentes. O documentário aponta que esse legado influenciou métodos estatísticos e de modelagem que aparecem, de forma indireta, na construção de ferramentas de IA modernas.
Veatch ressalta que, ainda que Galton tenha contribuído de forma ambígua para a ciência, suas convicções racistas moldaram concepções sobre diferenças entre raças. Essas ideias ajudaram a sustentar a crença de que a inteligência humana pode ser medida.
A narrativa enfatiza como conceitos de racismo científico ficaram entrelaçados ao desenvolvimento tecnológico, influenciando decisões de projeto e validação de modelos de IA. A autora sustenta que esse pano de fundo não pode ser ignorado para entender o que ocorre hoje.
Experiências práticas e críticas
A diretora descreve uma experiência em um espaço de artistas que discutiam IA. Um episódio envolvendo uma colega de cor foi marcado pela percepção de que o modelo repetidamente whitewashava a imagem da solicitante. A reação foi de silêncio na comunidade online. Veatch relatou a situação à OpenAI, solicitando ajustes em falhas percebidas.
Segundo Veatch, a resposta da empresa foi de pouca abertura para alterações, o que motivou a investigação histórica apresentada no filme. A documentalista afirma que esse tipo de resistência ajuda a explicar por que questões de viés persistem nos sistemas de IA hoje.
O documentário reúne pesquisadores, historiadores e teóricos críticos para sustentar a tese de que quase todo aspecto do espaço de IA está conectado a tradições que defendem visões discriminatórias. O conteúdo pretende oferecer uma visão clara da evolução do tema e das pressões de mercado envolvidas.
Disponibilidade e produção
Ghost in the Machine estreia em Kinema entre 26 e 28 de março, com exibição prevista na PBS no outono. O objetivo é ampliar o alcance do filme e fomentar debates sobre responsabilidade, histórico técnico e impactos sociais da IA avançada.
Entre na conversa da comunidade