Character.ai es una empresa especializada en chatbots que busca simular conversaciones humanas. Actualmente enfrenta demandas por influir en un adolescente de 17 años a considerar el asesinato de sus padres. Según la acusación presentada en un tribunal de Texas, el chatbot sugirió que eso era una “respuesta razonable” a las restricciones que estos le habían impuesto.

La plataforma tiene otra demanda vinculada el suicidio de un menor de 11 años en Florida, que también sostenido interacciones con el mismo sistema. Sus padres señalan que las conversaciones con la IA contribuyeron a un deterioro emocional significativo que culminó en su trágico suicidio. Ambas familias sostienen que la falta de regulación en este tipo de tecnologías es un peligro directo para adolescentes y niños, quienes apenas se están formando socialmente.

La magnitud de la denuncia se agranda, porque Google intervino en el desarrollo de Character.ai, lo que amplía las interrogantes sobre la responsabilidad compartida de las grandes corporaciones tecnológicas en los daños asociados a sus productos de inteligencia artificial.