De Obama musulmán a poner pegamento en la pizza: la IA está intoxicando el buscador de Google

Imagina que estás en la cocina de tu casa preparando una pizza, pero al sacarla del horno el queso resbala y no se adhiere a la masa. No sabes qué hacer para que se mantenga pegado, así que acudes a Google. Ahí está toda la información que necesito, piensas. Sin embargo, cuando se lo preguntas al buscador los nuevos resúmenes generados con inteligencia artificial (IA) te sugieren que puedes añadir "aproximadamente 1/8 de taza pegamento no tóxico a la salsa para darle más pegajosidad".

Eso es lo que le ha pasado esta semana a un usuario que estaba probando la nueva función habilitada por el gigante tecnológico. Hace 10 días, Google anunció al mundo que pasaba a integrar la IA en su popular motor de búsqueda, la puerta de entrada a Internet para miles de millones de personas. Eso se traduce en pequeños resúmenes que aparecen en la parte superior de la pantalla y que se nutren del contenido extraído de la red. "Puede quitarte un montón de trabajo duro", prometió Liz Reid, responsable de ese negocio.

Sin embargo, el nuevo buscador no está funcionando como Google esperaba. Durante la última semana y media, decenas de usuarios en Estados Unidos han denunciado que la flamante novedad de la compañía amplifica bulos, se inventa datos o hechos históricos que nunca sucedieron y da por buena información que podría ser peligrosa, como la de la pizza.

"Completamente peligroso"

Esos problemas se deben, en gran parte, a que Gemini, la IA de Google, genera resúmenes en base a la ingente cantidad de información que extrae de Internet y no sabe distingir qué es cierto y qué no. Eso hace que sus respuestas simplificadas se sustenten en fuentes poco fiables. En el caso del pegamento y la pizza, por ejemplo, la compañía podría haber dado por bueno un comentario publicado en el foro Reddit hace 11 años por un usuario apodado 'fucksmith'.

En las últimas horas, expertos en IA, periodistas tecnológicos y usuarios comunes están señalando problemas mayúsculos del buscador que van desde decir que solo 17 de los 42 presidentes de EEUU han sido blancos a indicar que Barack Obama es musulmán, una falsa conspiración popular entre la extrema derecha que fue amplificada por Donald Trump. "Es completamente peligroso", ha lamentado Melanie Mitchell, catedrática de Complejidad en el Instituto Santa Fe.

En la conferencia Google I/O de la semana pasada, el director ejecutivo de la compañía, Sundar Pichai, aseguró que esta función, por ahora solo desplegada en EEUU, se abrirá progresivamente en todo el mundo. Así, esperan que más de mil millones de personas usen estos resúmenes generados con IA a final de año.

Sin embargo, este alud de problemas en los resultados de AI Overview podrían llevar a la compañía a tomar medidas. "¿podría Google poner en pausa los resúmenes de IA en una semana?", se ha preguntado Alex Heath, director adjunto del medio especializado en tecnología The Verge.