El jefe de búsquedas de Google advierte sobre los chatbots con IA como ChatGPT
El jefe de búsquedas de Google ha advertido del peligro de confiar en que los chatbots de inteligencia artificial devuelvan siempre información precisa.
Prabhakar Raghavan declaró el sábado que, a veces, las chatbots pueden dar respuestas falsas pero convincentes.
«Este tipo de inteligencia artificial de la que hablamos actualmente puede llevar a veces a algo que llamamos alucinación», afirma Raghavan. «Esto se expresa de tal manera que una máquina da una respuesta convincente pero completamente ficticia».
El lunes, Google aprovechó una presentación para desvelar su chatbot de IA llamado Bard, con el que espera competir con ChatGPT.
Sin embargo, un anuncio de Bard en Twitter mostró que daba una respuesta inexacta a una pregunta sobre el telescopio espacial James Webb.
Bard is an experimental conversational AI service, powered by LaMDA. Built using our large language models and drawing on information from the web, it’s a launchpad for curiosity and can help simplify complex topics → https://t.co/fSp531xKy3 pic.twitter.com/JecHXVmt8l
— Google (@Google) February 6, 2023
En el anuncio, un usuario pregunta a Bard: «¿Qué nuevos descubrimientos del telescopio espacial James Webb puedo contar a mi hijo de 9 años?».
«JWST tomó las primeras imágenes de un planeta fuera de nuestro propio sistema solar. Estos mundos lejanos se llaman ‘exoplanetas’. Exo significa ‘de fuera'», responde Bard, entre otros «hechos».
Sin embargo, la primera fotografía de un exoplaneta no fue tomada por el JWST. Fue tomada en 2004 por el Very Large Telescope del Observatorio Europeo Austral, según la NASA. 2M1207b fue el primer exoplaneta fotografiado directamente, según la agencia espacial.
Las acciones de la empresa matriz de Google, Alphabet, cayeron bruscamente a raíz del error y de los crecientes temores sobre la amenaza que supone ChatGPT para su dominio de las búsquedas.
Raghavan declaró que Google sentía la «urgencia» de hacer público Bard, «pero también sentimos la gran responsabilidad. Definitivamente no queremos engañar al público».
«Estamos estudiando cómo integrar estas posibilidades en nuestras funciones de búsqueda, especialmente para las preguntas para las que no hay una única respuesta», añadió.
Los comentarios de Raghavan llegan después de que algunos criticaran a Google y al consejero delegado de Alphabet, Sundar Pichai, por el lanzamiento «precipitado» y «chapucero» de Bard. Maarten Bosma, exingeniero de investigación en la división de IA de Alphabet, Google Brain, tuiteó que la presentación mostraba que la compañía no se estaba tomando la IA lo suficientemente en serio.
