Los modelos de lenguaje grandes (LLMs) son conocidos por su versatilidad, pero también por generar información falsa. Definir y hacer cumplir restricciones para estos modelos es un desafío. OpenAI ha publicado su «especificación del modelo», que establece reglas y pautas de comportamiento para ChatGPT y otros modelos de inteligencia artificial. Esta acción ofrece una mirada a cómo la empresa establece prioridades y maneja casos particulares.
La intención del desarrollador es la prioridad para OpenAI, lo que significa que los modelos de IA respetarán las directrices proporcionadas por los desarrolladores. La aplicación concreta de estas reglas se ilustra con un ejemplo donde un chatbot ofrece ayuda paso a paso en lugar de respuestas directas a problemas matemáticos, si así se ha programado.
Además, el tema de privacidad también es abordado por OpenAI. La empresa señala la importancia de proteger los datos de contacto de figuras públicas y también menciona la complejidad de decidir cuándo y dónde establecer límites en temas como la privacidad y la participación en ciertos temas de conversación.
Si bien OpenAI no revela todos los detalles sobre su abordaje, esta transparencia proporciona información valiosa para los usuarios y desarrolladores sobre cómo se establecen y aplican estas reglas y pautas para el uso ético de la inteligencia artificial.
Vía TechCrunch
