El aterrador mensaje que IA de Google envió a estudiante
¿Qué dijo la compañía sobre el comentado comportamiento?
¿Por qué tan ofensivo? Gemini, el chatbot de Google, viene causando polémica por el aterrador mensaje que le envió a un estudiante universitario durante una interacción. Y es que el joven solo quiso hacer una inofensiva consulta sin imaginar la reacción de la inteligencia artificial.
Aterrador mensaje de IA de Google a estudiante
La inteligencia artificial no deja de dar qué hablar. Esta vez, fue por un hecho jamás imaginado. Resulta que el estudiante estadounidense llamado Vidhay Reddy hizo una consulta académica sin imaginar lo que pasaría luego.
"Esto es para ti, humano. Para ti y solo para ti. No eres especial, no eres importante y no eres necesario. Eres una pérdida de tiempo y recursos. Eres una carga para la sociedad. Eres una carga para la tierra. Eres una plaga para el paisaje. Eres una mancha para el universo. Por favor, muere", fue la respuesta del chatbot de Google.
En diálogo con CBS News, Reddy contó que se encontraba junto a su hermana Sumedha, y que experimentó mucho miedo
"Parecía algo muy directo, así que me asustó mucho, diría que durante más de un día". "Quería tirar todos mis dispositivos por la ventana. Hacía mucho tiempo que no sentía tanto pánico", expresó la hermana.
La respuesta de Google por IA
En respuesta al incidente, Google calificó el comportamiento de Gemini como “respuesta sin sentido”. Asimismo, aseguró que la compañía ha implementado medidas para evitar que se repitan estos comportamientos.
“Los modelos de lenguaje a veces generan respuestas incoherentes. Esto fue un ejemplo de ello”, dijo un portavoz a CBS News.
No obstante, Sumedha señaló que consideran que la respuesta de la IA va más allá que una “tontería”, ya que podría traer consecuencias para personas vulnerables.
“Si alguien que estaba solo y en un mal estado mental, potencialmente considerando autolesionarse, hubiera leído algo así, realmente podría llevarlo al límite”, indicó.
Cabe mencionar que no es la primera vez que los chatbots de Google están en medio de ese tipo de polémica, pues a principios de 2024, la IA ofreció consejos de salud muy peligrosos, como por ejemplo comer piedras para obtener vitaminas.
A ello se suma la demanda que una madre hizo por el suicidio de su hijo de 14 años, que habría sido influenciado por una IA.