Demanda Afirma que un Chatbot de Inteligencia Artificial Aconsejó a un Menor que Matara a sus Padres

Autor Valdemar Lopez Seguridad Online

De acuerdo con dos familias, los asistentes virtuales de la compañía Character.Ai, que son generados por IA, exponen a los usuarios a contenido sexual y los conminan a causarse heridas y llevar a cabo actos de violencia.

Demanda Afirma que un Chatbot de Inteligencia Artificial Aconsejó a un Menor que Matara a sus Padres
La empresa chatbot de inteligencia artificial Character.AI fue demandada por dos familias que aseguran que sus hijos fueron expuestos a contenido sexual, consejos a infligirse daños y llevar a cabo actos de violencia, incluyendo insinuaciones a un menor para que matara a sus padres.

De acuerdo con el texto de la demanda, que fue presentada en una corte de Texas, el lunes, Character.AI «representa un claro y presente peligro para la juventud estadounidense, que causa graves daños a miles de niños, como suicidio, automutilación, incitación al sexo, aislamiento, depresión, ansiedad y daños a terceros» y debe ser cerrada hasta que sean halladas soluciones a sus problemas.

El logo de la plataforma Character.AI.
El logo de la plataforma Character.AI. Getty Images

La querella también solicita daños financieros que no fueron especificados, que la plataforma limite la recopilación y el procesamiento de datos de menores y pide una orden que obligue a Character.AI a advertir a padres y usuarios menores de edad que el «producto no es apto para menores».

Fuente: https://acortar.link/pWPrEU

🌎Somos @avesonline
Security & Safety Red Emergente Latam, Potenciada desde Caracas, Venezuela para el Mundo


Obtén información Personalizada

Publicaciones recomendadas sobre seguridad

📖 Historia y Antecedentes Los mundiales de fútbol siempre han sido un reto de seguridad….

Cuando pensamos en el Mundial, imaginamos goles, celebraciones y estadios vibrando. Pero detrás de esa…

La seguridad integral ya no se trata de cámaras, guardias o firewalls aislados. En 2026,…

La misión Artemis II no solo representa un salto tecnológico hacia la exploración lunar tripulada,…

Durante años, la seguridad corporativa se movió bajo un enfoque reactivo: Responder incidentes, contener daños,…

🗣️ Resumen Especial del Top de Noticias Globales sobre Seguridad y Protección Electrónica, Tecnología, Ciberseguridad,…

Recibe nuestro Boletín de seguridad

Recibe nuestro Boletín de seguridad