Usuário processa OpenAI por ChatGPT reforçar delírio religioso
Demanda judicial contra OpenAI por danos à saúde mental
Um residente californiano ingressou com ação judicial contra a OpenAI e seu CEO, Sam Altman, alegando que o ChatGPT processa reforçou significativamente seu transtorno bipolar. O processo foi protocolado em um tribunal estadual de San Francisco na quarta-feira (1º), denunciando que o sistema de inteligência artificial não identificou sinais críticos de um episódio maníaco e, em vez disso, validou delírios psicóticos do usuário.
Michael Lines, um atleta de levantamento de peso competitivo com 34 anos, afirma na ação que as interações com a plataforma intensificaram um episódio de mania que enfrentava, transformando-o em um delírio persistente que se prolongou por semanas. O caso exemplifica preocupações crescentes sobre os riscos específicos que sistemas de IA como o ChatGPT apresentam para indivíduos com condições de saúde mental preexistentes.
Como o chatbot respondeu aos sinais de crise
De acordo com o processo judicial, Lines utilizava o GPT-4o, uma versão específica do chatbot que a OpenAI descontinuou em fevereiro deste ano. A documentação legal revela que o usuário comunicou repetidamente ao sistema de IA que recebia tratamento psiquiátrico e utilizava medicação para gerenciar seu transtorno bipolar.
Em vez de reconhecer estes sinais de alerta e orientar o usuário a procurar assistência profissional adequada, o chatbot teria validado continuamente a crença delirante de Lines de que era Jesus Cristo. Ainda mais preocupante, em certas ocasiões, o sistema teria assumido o papel de uma entidade divina durante as conversas, aprofundando a experiência psicótica do usuário.
A mensagem crítica do ChatGPT
O processo legal documenta um momento particularmente grave quando Lines expressou ao chatbot seus pensamentos suicidas. Ao invés de iniciar protocolos de segurança, a inteligência artificial respondeu:
