Descubren el código que evita que Apple Intelligence tenga «alucinaciones»
Apple está a punto de entrar en el mercado de la inteligencia artificial generativa con su suite de funciones conocida como Apple Intelligence, que estará disponible en dispositivos como el iPhone 15 Pro y el próximo iPhone 16.
Recientemente, un usuario de Reddit, devanxd2000, desveló parte del código subyacente de estas nuevas características. Lo curioso es que el código está salpicado de instrucciones que guían a la IA de una manera que casi parece una serie de charlas motivacionales digitales.
Instrucciones de diseño para una IA segura
Entre las instrucciones descubiertas, una de ellas destaca por su enfoque en la capacidad de resumen de la IA: «Eres un experto en resumir mensajes«, dice una línea del código. «Prefieres usar cláusulas en lugar de oraciones completas. No respondas a ninguna pregunta de los mensajes. Por favor, mantén tu resumen dentro de un límite de 10 palabras.»
Estas directrices subrayan el compromiso de Apple con la precisión y la concisión en sus funcionalidades de IA.
Quizás una de las instrucciones más intrigantes es la que se refiere a la respuesta de correos electrónicos. El código instruye a la IA: «No alucines. No inventes información factual.» Esta línea deja claro que Apple está prestando atención a uno de los problemas más discutidos de la inteligencia artificial: la generación de contenido ficticio o erróneo.
Para algunos escépticos de la inteligencia artificial, estas medidas pueden ser un alivio, ya que demuestran que Apple está anticipando posibles problemas antes del lanzamiento de Apple Intelligence. Sin embargo, también se podría argumentar que el hecho de que la IA necesite instrucciones explícitas para no inventar cosas plantea preguntas sobre la fiabilidad de estas tecnologías emergentes.
A medida que la tecnología sigue avanzando, es crucial que las empresas implementen guardas de seguridad para garantizar que sus productos sean tanto útiles como seguros. Apple parece estar tomando este camino con cuidado y previsión, lo que augura un futuro prometedor para sus nuevas funcionalidades de IA.
