OpenAI tiene miedo de que algunas personas se encariñen con el modo voz de ChatGPT
El modo de voz avanzado de ChatGPT causó un gran revuelo desde su anuncio, generando altas expectativas entre los usuarios. Este modo permite mantener conversaciones en tiempo real, con una voz que imita de manera sorprendente el habla humana, incluyendo interjecciones como “Umm” y “Ah”, además de la capacidad de cantar y detectar el estado emocional del interlocutor a partir de su tono de voz.
Sin duda, se trata de una de las funcionalidades más realistas y avanzadas de asistentes de inteligencia artificial que existen en la actualidad. Sin embargo, su poder y realismo también traen consigo una serie de riesgos potenciales.
Preocupaciones por la dependencia emocional
Según un reciente informe de seguridad, OpenAI ha manifestado su preocupación de que el modo de voz avanzado podría llevar a los usuarios a desarrollar vínculos emocionales con el chatbot.
Durante las pruebas iniciales, la empresa observó que algunos usuarios empleaban un lenguaje que sugería la formación de conexiones emocionales con el modelo, utilizando frases como «Este es nuestro último día juntos». Este tipo de comportamiento indica una posible tendencia a que los usuarios se apeguen emocionalmente a la IA, lo cual podría tener implicaciones no deseadas.
El modo de voz avanzado no solo presenta riesgos emocionales, sino que también abre nuevas posibilidades para que los usuarios «hackeen» ChatGPT, permitiendo que el modelo realice acciones no deseadas, como la suplantación de identidad.
La capacidad de este modo para generar conversaciones tan humanas puede hacer que las personas confíen más en la IA, incluso cuando sus respuestas pueden estar cargadas de errores o alucinaciones. Esta confianza excesiva en la tecnología podría llevar a consecuencias negativas, especialmente si se utiliza de manera inadecuada.
Beneficios y desafíos para la salud mental
Por otro lado, la interacción con el modo de voz de ChatGPT podría ser beneficiosa para personas que experimentan soledad o que tienen dificultades para relacionarse socialmente. OpenAI reconoce que este modo podría ayudar a superar el miedo a las interacciones sociales en ciertos individuos. Sin embargo, también advierte que el uso excesivo del modo de voz podría afectar las relaciones humanas saludables, lo que requiere un análisis y estudio más profundo.
El informe de OpenAI muestra un esfuerzo por ser más transparente respecto a los desafíos y preocupaciones que presenta su tecnología. No obstante, la compañía sigue siendo reservada en cuanto a los datos de entrenamiento utilizados para desarrollar estas funciones avanzadas.
