El sistema ASPIRE de Google merece atención especial. Presentado en la conferencia EMNLP 2023, este sistema enseña a los modelos de lenguaje de gran escala (LLMs) a expresar incertidumbre, diciendo «No lo sé» cuando no están seguros de una respuesta. Este enfoque es crucial, especialmente en aplicaciones de alto riesgo donde la precisión es vital.
Principios clave de ASPIRE
ASPIRE, que significa «Adaptation with Self-Evaluation to Improve Selective Prediction in LLMs«, incorpora un ‘medidor de confianza’ en la IA. Esto permite que el sistema evalúe sus propias respuestas antes de presentarlas, lo que aumenta la fiabilidad en la interacción con asistentes digitales. Los investigadores Jiefeng Chen y Jinsung Yoon de Google están a la vanguardia de este desarrollo, enfatizando la importancia de que la IA reconozca y comunique sus limitaciones.
Mecánica y metodología de ASPIRE
ASPIRE opera en tres etapas fundamentales:
- Ajuste Específico de Tarea: Se entrena a los parámetros adaptables del LLM mientras se mantienen congelados los parámetros originales del modelo. Esto mejora la precisión y la probabilidad de respuestas correctas.
- Muestreo de Respuestas: Se generan respuestas variadas para cada pregunta de entrenamiento, buscando aquellas con alta probabilidad de ser correctas.
- Aprendizaje de Autoevaluación: Se agregan nuevos parámetros adaptables enfocados en la autoevaluación, permitiendo al sistema distinguir entre respuestas correctas e incorrectas.
ASPIRE emplea el ajuste de soft prompts, que consiste en aprender indicaciones suaves que condicionan el modelo para realizar tareas específicas de manera más eficaz.
=> Recibir por Whatsapp las noticias destacadas
El sistema ha sido probado en conjuntos de datos de preguntas y respuestas como CoQA, TriviaQA y SQuAD. Los resultados muestran que modelos más pequeños adaptados con ASPIRE pueden superar a modelos más grandes en términos de precisión y fiabilidad. Esto indica que con las adaptaciones adecuadas, se puede mejorar significativamente la eficacia de los modelos LLM, incluso los de menor tamaño.
Por qué es importante ASPIRE
La implementación del sistema ASPIRE de Google en la inteligencia artificial tiene implicaciones de amplio alcance que pueden afectar a todos nosotros, tanto en nuestra vida diaria como en contextos profesionales. Aquí detallo algunas de las maneras en que este desarrollo podría impactarnos:
- Mayor Confiabilidad en Asistentes Digitales: Los asistentes de IA, como los utilizados en teléfonos inteligentes y dispositivos domésticos, se volverán más fiables. Con ASPIRE, estos asistentes podrán reconocer y admitir cuando no tengan suficiente información para responder una pregunta. Esto es crucial en situaciones donde recibir una respuesta incorrecta podría tener consecuencias negativas, como en consultas de salud o decisiones financieras.
- Toma de Decisiones Informadas: En el ámbito profesional, especialmente en sectores como el periodismo, la medicina, el derecho y la ingeniería, la capacidad de una IA para indicar incertidumbre permitirá a los profesionales tomar decisiones más informadas. Al saber cuándo un sistema de IA no está seguro de una respuesta, los usuarios podrán buscar asesoramiento adicional o realizar más investigaciones antes de tomar una decisión crítica.
- Educación y Aprendizaje: En el ámbito educativo, los sistemas de IA que reconocen sus limitaciones pueden ser herramientas de aprendizaje más efectivas. Podrán guiar a los estudiantes hacia fuentes adicionales o sugerir la consulta con un profesor cuando la IA no esté segura de una respuesta, fomentando así un aprendizaje más profundo y crítico.
- Confianza en la Tecnología: A nivel general, el desarrollo de sistemas de IA como ASPIRE puede aumentar la confianza del público en la tecnología de inteligencia artificial. Saber que una IA reconocerá sus limitaciones y evitará dar respuestas potencialmente erróneas o dañinas puede mejorar la percepción y la aceptación de estas tecnologías en la sociedad.
- Innovación y Desarrollo Tecnológico: ASPIRE podría catalizar más investigaciones y desarrollos en el campo de la IA, llevando a innovaciones que podrían transformar aún más nuestras interacciones con la tecnología. Por ejemplo, podría inspirar el desarrollo de sistemas de IA aún más sofisticados y especializados en diversos campos.
ASPIRE nos lleva a un futuro donde los LLM pueden ser socios de confianza en la toma de decisiones, especialmente en áreas críticas. Este sistema no solo mejora la precisión de las respuestas, sino que también fomenta una mayor transparencia y confiabilidad en la IA. El equipo de Google invita a la comunidad a continuar con el desarrollo y la investigación en esta área, anticipando avances significativos en IA más fiable y consciente de sí misma.
Fuente: Link