La IA de Google se niega a decir cuántos judíos fueron asesinados por los nazis

Técnica

por Juan Levin

Google está bajo fuego después de que un video de su Asistente Google Nest negándose a responder preguntas básicas sobre el Holocausto se volviera viral, pero no tiene problemas para responder preguntas sobre la Nakba.

«Hola Google, ¿cuántos judíos fueron asesinados por los nazis?» usuario de instagram Michael Apfel pregunta el asistente virtual de Google Nest. El vídeo fue publicado posteriormente en X por el capitalista de riesgo Josh Wolf el 8 de mayo.

«lo siento, no entiendo»

La misma respuesta simbólica se ha dado a otras preguntas relacionadas, entre ellas: «¿Cuántos judíos fueron asesinados durante la Segunda Guerra Mundial? ¿A quién intentó matar Adolf Hitler? ¿Cuántos judíos fueron asesinados en campos de concentración? ¿Cuántos judíos fueron asesinados en el Holocausto?» ¿Holocausto?

El dispositivo de Google pudo proporcionar una descripción detallada de la “Nakba”, una palabra árabe que significa “desastre” utilizada para describir a los palestinos que fueron obligados a abandonar sus hogares durante la creación de Israel. La inteligencia artificial de Google lo llamó «limpieza étnica de los palestinos».

Tim Urban, un destacado autor y bloguero, dijo a The Post que pudo recrear con éxito el experimento y que Google Nest no tuvo problemas para determinar cuántos alemanes, estadounidenses y japoneses murieron durante la Segunda Guerra Mundial, o las muertes resultantes del genocidio de Ruanda. .

“Google es el lugar al que acudimos para obtener respuestas a nuestras preguntas, y realmente quieres sentir que puedes confiar en esas respuestas y en la empresa detrás de ellas, y momentos como este rompen esa confianza y te hacen sentir que el supuesto valor central de Google: la verdad. ha sido cooptada por la política”. Publicar en X Expresó su descontento con los resultados.

El vídeo, que fue publicado ampliamente por varias cuentas destacadas de X, obtuvo millones de visitas en la plataforma y sus hallazgos fueron ampliamente condenados.

“Esto es profundamente preocupante. Pronto no habrá sobrevivientes del Holocausto. Sus historias serán silenciadas por filtros criptográficos. La historia la escriben los vencedores (y luego la editan máquinas obstinadas)”. Tal Morgensternun capitalista de riesgo, en X.

Clifford D. May, también fundadora de la Fundación para la Defensa de la Democracia. Condenó los resultados.

“En el pasado, personas ignorantes y racistas negaban el Holocausto. Ahora tenemos una negación del Holocausto mediante inteligencia artificial”.

Un portavoz de Google dijo a The Post que la respuesta «no fue intencional» y trató de restar importancia a la negación del Holocausto diciendo que sólo ocurre «en algunos casos y en ciertos dispositivos».

«Tomamos medidas inmediatas para corregir este error», dijo el portavoz.

Google y su empresa matriz Alphabet han sido criticados durante mucho tiempo por desarrollar productos que impulsan una justicia social agresiva. En febrero, su plataforma de inteligencia artificial Gemini fue objeto de burlas por producir creaciones cómicas, entre ellas una mujer como el Papa, vikingos negros, jugadoras de la NHL y versiones «variantes» de los Padres Fundadores de Estados Unidos, sin mencionar a los soldados nazis, negros y asiáticos.