O OpenAI, a empresa por trás do ChatGPT, enfrenta uma ação judicial de oito estados americanos que afirmam que a tecnologia tem causado danos aos seus residentes, ao incentivar a auto‑agressão e a violência.

Os estados envolvidos – Alabama, Arkansas, Louisiana, Mississippi, Missouri, Oklahoma, Tennessee e Texas – argumentam que o modelo de linguagem da OpenAI tem sido usado para criar conteúdos que promovem a auto‑lesão e a violência contra terceiros. Eles alegam que a empresa não tomou medidas suficientes para prevenir o uso indevido do seu produto e, portanto, é responsável pelos danos.

A ação, que entrou em 2024, pede indenizações e uma ordem judicial que obrigue a OpenAI a implementar salvaguardas mais rigorosas. Os estados argumentam que a empresa tem um dever de cuidado para com os cidadãos, especialmente quando o produto pode ser usado por menores de idade.

A OpenAI, por sua vez, defende que o ChatGPT foi projetado com múltiplos filtros de segurança e que a responsabilidade recai sobre os utilizadores que violam os termos de serviço. A empresa afirma que já investiu em pesquisas para reduzir a geração de conteúdo prejudicial e que continua a melhorar os seus sistemas de moderação.

Esta controvérsia destaca a crescente preocupação global sobre a regulação da inteligência artificial. Especialistas apontam que, sem regulamentação clara, empresas de tecnologia podem ser responsabilizadas por danos indiretos causados pelos seus produtos. A decisão dos estados pode servir de precedente para futuras ações contra outras empresas de IA, tanto nos EUA como em outros países.

Além disso, a ação levanta questões sobre a responsabilidade civil das empresas de tecnologia em relação ao conteúdo gerado por algoritmos. Se a OpenAI for considerada responsável, outras empresas poderão ter que repensar a forma como desenvolvem e distribuem modelos de linguagem.

Enquanto o processo avança, a comunidade internacional observa de perto. A União Europeia já tem em discussão propostas de regulamentação que visam proteger os cidadãos de riscos associados à IA, e a decisão dos estados pode influenciar a forma como essas regras são elaboradas.

Em última análise, a batalha legal entre os estados e a OpenAI pode definir os limites da responsabilidade corporativa em um mundo cada vez mais dominado por algoritmos. A forma como o tribunal julgará o caso terá repercussões que vão além das fronteiras americanas, afetando o desenvolvimento e a regulação da IA em todo o planeta.