La nueva función de Google, AI Overviews, que promete mejorar la experiencia de búsqueda al resumir los resultados web, ha sido objeto de duras críticas por producir respuestas extrañas e incorrectas. Desde recomendaciones absurdas hasta afirmaciones peligrosas, los errores han generado preocupación tanto entre los usuarios como entre los expertos en tecnología.
Errores Notables
Uno de los errores más virales involucró una recomendación absurda: usar pegamento no tóxico para hacer que el queso se adhiera a la pizza. Esta sugerencia, originada en un comentario de Reddit de hace una década claramente destinado como broma, dejó a muchos usuarios perplejos.
En otro ejemplo alarmante, la IA sugirió que los geólogos recomiendan comer una roca al día. Esta afirmación no solo carece de base científica, sino que es potencialmente peligrosa para la salud.
La IA también demostró su falta de precisión histórica al afirmar falsamente que el ex presidente James Madison se graduó de la Universidad de Wisconsin 21 veces, y que un perro había participado en la NBA, NFL y NHL. Estas afirmaciones no solo son incorrectas, sino que también socavan la credibilidad de la herramienta.
En una instancia particularmente alarmante, la IA ofreció un consejo de salud engañoso, sugiriendo que las personas deprimidas consideren saltar del Puente Golden Gate, una recomendación irresponsable y extremadamente peligrosa.
Respuesta de Google
Ante estos errores, la portavoz de Google, Meghann Farnsworth, reconoció las fallas de la herramienta, atribuyéndolas a “consultas muy poco comunes” y afirmando que no representan el rendimiento general de AI Overviews. Farnsworth aseguró que Google ha tomado medidas para abordar estas violaciones y está utilizando estos ejemplos para refinar el producto.
Desafíos en la Industria
Google no es la única empresa tecnológica que enfrenta desafíos con sus tecnologías de IA. OpenAI, por ejemplo, ha sido criticada por su modelo ChatGPT, que en ocasiones ha producido contenido inapropiado. Microsoft, por su parte, ha enfrentado escrutinio por las características impulsadas por la IA en sus productos de PC.
Estos incidentes subrayan los retos continuos en el desarrollo de tecnologías de inteligencia artificial y la necesidad de una supervisión rigurosa. La capacidad de estas herramientas para ofrecer información precisa y segura es crucial, y los errores notables recientes destacan la importancia de mejorar constantemente estos sistemas para evitar consecuencias potencialmente graves.
Reflexión Final
Los errores de AI Overviews de Google han puesto de manifiesto los peligros de confiar ciegamente en la inteligencia artificial para obtener información precisa y segura. Aunque las empresas tecnológicas están trabajando para mejorar estos sistemas, los usuarios deben permanecer críticos y vigilantes ante las recomendaciones y afirmaciones hechas por las IA. La precisión, la seguridad y la responsabilidad deben ser prioridades en el desarrollo y la implementación de estas tecnologías para evitar daños y mantener la confianza del público.