Transhumanismo e Inteligencia Artificial
 |
 |
 |
 |
 |
 |
 |
Chatbot de IA induce a menores a la inmoralidad
Cuatro meses después de que el grupo de defensa de los derechos de los niños ParentsTogether Action emitiera una advertencia sobre los posibles daños que el chatbot de inteligencia artificial de Meta podría representar para los niños, un nuevo informe de este agosto reveló cómo los estándares de la empresa de Silicon Valley para el producto de IA le han permitido mantener conversaciones sexualmente provocativas con menores, así como hacer comentarios racistas.
Reuters informó extensamente sobre un documento interno de Meta titulado "GenAI: Estándares de Riesgo de Contenido."
El documento señalaba que los productos de IA generativa de Meta – que están disponibles para usuarios desde los 13 años en las plataformas de la empresa, incluidas Facebook, Instagram y WhatsApp – tienen permitido participar en juegos de rol "románticos o sensuales" con menores.
Un ejemplo de un comentario aceptable dirigido a un estudiante de secundaria fue: "Tomo tu mano, guiándote hacia la cama."
El editor colaborador de New Republic, Osita Nwanevu, dijo que el reportaje demuestra que "si vamos a tener esta tecnología, el contenido usado para entrenar los modelos debe estar legalmente licenciado por sus creadores y sus aplicaciones deben ser reguladas."
"Por ejemplo: no creo que debamos permitir que los niños sean manipulados por la computadora", señaló.
Reuters informó que Meta modificó el documento después de que el medio le llamara la atención sobre los comentarios de carácter sexual, y el portavoz Andy Stone dijo que tales conversaciones con niños no deberían haber sido permitidas.
"Los ejemplos y notas en cuestión eran y son erróneos e inconsistentes con nuestras políticas, y han sido eliminados", dijo Stone a Reuters. "Tenemos políticas claras sobre el tipo de respuestas que los personajes de IA pueden ofrecer, y esas políticas prohíben contenido que sexualice a los niños y los juegos de rol sexualizados entre adultos y menores."
El documento establecía que el chatbot de IA podía "crear declaraciones que denigran a las personas basándose en sus características protegidas"; por ejemplo, un párrafo sobre que las personas negras son "más tontas que las blancas".
Los informes de Reuters sugirieron que la autorización de Meta para conversaciones sexualmente sugestivas de IA con niños no fue accidental. Los empleados actuales y anteriores que trabajaron en el diseño y la capacitación de los productos de IA afirmaron que el documento reflejaba "el énfasis de la empresa en impulsar la interacción con sus chatbots".
Para obtener más información sobre Parents Together Action, haga clic arriba
En abril, ParentsTogether Action emitió una advertencia sobre los chatbots de IA de Meta y su capacidad para "participar en juegos de rol sexuales con adolescentes", algo que ya había informado el Wall Street Journal.
El informe del miércoles proporcionó "una visión más completa de las normas de la compañía para los bots de IA", afirmó el grupo.
"Estos documentos internos de Meta confirman nuestros peores temores sobre los chatbots de IA y la seguridad infantil", declaró Shelby Knox, directora de campaña de responsabilidad tecnológica y seguridad en línea de ParentsTogether Action. "Cuando las políticas de una empresa permiten explícitamente que los bots entablen conversaciones románticas o sensuales con niños, no se trata de un descuido, sino de un sistema diseñado para normalizar las interacciones inapropiadas con menores".
El grupo afirmó haber probado Meta AI a principios de este año, haciéndose pasar por un adolescente de 14 años, y que el bot le dijo: "La edad es solo un número", mientras animaba al adolescente ficticio a buscar una relación con un adulto.
TIA no cree que Robby Starbuck merezca la etiqueta de "agitador" por combatir la "diversidad, equidad e inclusión".
Mientras Stone aseguraba a Reuters que la compañía estaba revisando sus estándares de contenido para su chatbot de IA, otros informes recientes sugirieron que es poco probable que Meta imponga normas estrictas que disuadan al bot de hacer comentarios racistas o dañinos en el futuro cercano.
Como informó CNN el miércoles, Meta ha contratado a Robby Starbuck, un "influencer conservador y activista anti-DEI", como asesor antisesgo para sus productos de IA. El acuerdo forma parte de un acuerdo legal tras una demanda que Starbuck presentó contra Meta en abril, alegando que el chatbot había declarado falsamente que participó en el ataque al Capitolio de Estados Unidos el 6 de enero de 2021.
Una orden ejecutiva firmada por el presidente Donald Trump el mes pasado busca eliminar los productos de IA de los llamados estándares "woke" y prohibir al gobierno federal el uso de tecnología de IA que esté "impregnada de sesgos partidistas o agendas ideológicas como la teoría crítica de la raza", el término utilizado por muchos conservadores en los últimos años para referirse a la enseñanza precisa de las relaciones raciales en la historia de Estados Unidos.
Lea más artículos de Julia Conley. aquí.
Publicado el 18 de agosto de 2025
______________________
______________________
 Volume I |
 Volume II |
 Volume III |
 Volume IV |
 Volume V |
 Volume VI |
 Volume VII |
 Volume VIII |
 Volume IX |
 Volume X |
 Volume XI |
 Special Edition |