La IA del buscador de Google es un fiasco: se lía con el avión de Air India que se ha estrellado
Pasan los años, pero la inteligencia artificial generativa sigue cometiendo errores incomprensibles, y siembra dudas sobre su verdadero potencial. ¿Por qué confiamos ciegamente en ella?
Esta semana ha sido noticia el trágico accidente de un avión de Air India, en donde han muerto 260 personas, con un solo superviviente. Ten cuidado si buscas información en el buscador de Google, porque a su IA se le han cruzado los cables, y dice que el avión estrellado es un Airbus A330-243, cuando en realidad se trata de un Boeing 787-8 Dreamliner.
En este contexto, un error de este tipo de la inteligencia artificial resulta muy grave para las compañías implicadas, porque puede hacer caer la Bolsa, perder reputación, e incluso sufrir cancelaciones de vuelos.
Con el imborrable recuerdo de la pizza con pegamento aún presente, pasan los años pero la inteligencia artificial del buscador de Google sigue cometiendo errores imperdonables. Si la IA se equivoca a un nivel tan básico... ¿Qué se puede esperar de tareas críticas?
Una IA incrustada a la fuerza que falla en lo básico
Desde hace unos meses, en algunos resultados de búsqueda de su buscador, Google incluye en la cabecera una Vista creada con IA, que es un resumen de información relacionada con la búsqueda.
Google lo incrusta por defecto y lo pone por delante de la lista de resultados, con lo que rompe con el objetivo de un buscador, que es buscar información. Porque la IA no busca, interpreta a su manera. Y mete mucho la pata.
La noticia ha saltado cuando a un usuario de Reddit se le ocurrió buscar en Google accidentes de los aviones Airbus. Sorprendentemente, En primer lugar aparece el accidente de Air India del 12 de junio, en donde no se estrelló un Airbus, sino un Boeing 787:
Es el mismo fallo de siempre, que cometen todas las IA sin excepción: fallan en algo tan simple como recopilar un dato. Especialmente si es de actualidad.
Google se cubre las espaldas con el mensaje, en letra pequeña: "Las respuestas de la IA pueden contener errores". Entonces, ¿para qué sirve? Es como si una calculadora viene con el mensaje: "Cuidado, puede hacer mal las cuentas". Si tienes que repasar manualmente cada resultado de la inteligencia artificial en busca de errores, entonces no sirve para nada.
Más grave aún es que esto ocurra en un buscador, al que lo único que le pides es buscar. Si en lugar de buscar te impone una respuesta mal generada por la IA, entonces la confianza en ese buscador se desmorona.
Un portavoz de Google ha confirmado a Ars Technica que han eliminado la respuesta errónea manualmente:
"Como con todas las funciones de búsqueda, introducimos mejoras de forma rigurosa y utilizamos ejemplos como este para actualizar nuestros sistemas. Esta respuesta ya no aparece. Mantenemos un alto nivel de calidad con todas las funciones de búsqueda, y la tasa de precisión de las descripciones generales de IA está a la par con otras funciones como los fragmentos destacados".
Por desgracia, mientras la IA sigua fallando aunque solo sea el 1% en la búsqueda de información, ese 1% de incertidumbre hace que sea imposible confiar en ella. ¿Y si ese fallo te toca a ti?