Demanda Afirma que un Chatbot de Inteligencia Artificial Aconsejó a un Menor que Matara a sus Padres

Valdemar J. López C. Director de Publicidad, Imagen y Eventos

De acuerdo con dos familias, los asistentes virtuales de la compañía Character.Ai, que son generados por IA, exponen a los usuarios a contenido sexual y los conminan a causarse heridas y llevar a cabo actos de violencia.

Demanda Afirma que un Chatbot de Inteligencia Artificial Aconsejó a un Menor que Matara a sus Padres
La empresa chatbot de inteligencia artificial Character.AI fue demandada por dos familias que aseguran que sus hijos fueron expuestos a contenido sexual, consejos a infligirse daños y llevar a cabo actos de violencia, incluyendo insinuaciones a un menor para que matara a sus padres.

De acuerdo con el texto de la demanda, que fue presentada en una corte de Texas, el lunes, Character.AI «representa un claro y presente peligro para la juventud estadounidense, que causa graves daños a miles de niños, como suicidio, automutilación, incitación al sexo, aislamiento, depresión, ansiedad y daños a terceros» y debe ser cerrada hasta que sean halladas soluciones a sus problemas.

El logo de la plataforma Character.AI.
El logo de la plataforma Character.AI. Getty Images

La querella también solicita daños financieros que no fueron especificados, que la plataforma limite la recopilación y el procesamiento de datos de menores y pide una orden que obligue a Character.AI a advertir a padres y usuarios menores de edad que el «producto no es apto para menores».

Fuente: https://acortar.link/pWPrEU

🌎Somos @avesonline
Security & Safety Red Emergente Latam, Potenciada desde Caracas, Venezuela para el Mundo


Obtén información Personalizada

Publicaciones recomendadas

La seguridad en la cadena de suministros es un aspecto crítico para cualquier organización. Las…

La seguridad y protección integral han evolucionado de manera significativa en las últimas décadas, y…

Existen múltiples técnicas de ingeniería social para apoderarse de tus credenciales y una de las…

Con más de 20 años de experiencia en el mercado venezolano, SUMIBANK 3000 C.A. se…

En el ajetreado mundo de la industria de la seguridad en Venezuela, donde cada momento…

¿Qué es el Comercio Ilícito? El comercio ilícito se refiere a prácticas o conductas prohibidas…

Recibe nuestro Boletín de seguridad

Recibe nuestro Boletín de seguridad