Cómo funcionan los modelos de lenguaje de IA y dónde fallan

De 13 a 17 años Leer solo · unos 55 minutos

Lean juntos

Un modelo de lenguaje grande es un programa de computadora entrenado con enormes cantidades de texto. Aprende patrones del lenguaje y, dadas algunas palabras, predice las palabras siguientes más probables. Los chatbots se construyen sobre esta idea. El diseño clave detrás de muchos de ellos, llamado transformer, fue descrito por investigadores de Google en 2017.

Estos sistemas pueden ser útiles: pueden explicar, resumir, traducir y ayudar a generar ideas. Pero también pueden afirmar cosas falsas con seguridad, inventar fuentes, repetir estereotipos injustos de sus datos de entrenamiento y fallar en tareas que parecen fáciles. No verifican hechos a menos que se construyan para ello.

Así que úsalos como herramienta, no como autoridad. Comprueba las afirmaciones con fuentes confiables. Sé honesto sobre cuándo usas IA para la escuela o el trabajo. No compartas información privada con un chatbot. Este sitio usa IA en su redacción y lo dice abiertamente, porque la honestidad sobre las herramientas importa.

Háganlo

1. Juega a «predice la siguiente palabra»: una persona lee la mitad de una oración conocida y los demás adivinan el resto. Fíjate en cómo ayudan los patrones y dónde fallan con oraciones nuevas.
2. Con un adulto, haz a una herramienta de IA cinco preguntas cuyas respuestas ya conoces, incluida una complicada. Comprueba cada respuesta con una fuente confiable. ¿Cuántas fueron correctas?
3. Pídele una fuente sobre algo y luego trata de encontrar esa fuente. ¿Existe?
4. Escribe una breve política personal: ¿cuándo usarías IA, cuándo no y cómo lo dirías con honestidad?

Conversen

• ¿Por qué una IA puede sonar segura y aun así estar equivocada?
• ¿Cómo le dirías a alguien que usaste IA para ayudarte?

Para el adulto

Las herramientas de IA son ahora parte de la escuela y el trabajo, así que los adolescentes se benefician de aprender cómo funcionan y dónde fallan. El artículo de 2017 «Attention Is All You Need» presentó el diseño transformer. El Instituto Nacional de Estándares y Tecnología de EE. UU. publicó en 2023 un Marco de Gestión de Riesgos de IA, sobre el uso confiable y responsable. Hablen con tu adolescente de honestidad, reglas de tareas, privacidad y pensamiento crítico.

Marcar como hecha

Lección siguiente →

De dónde viene esto

• Ashish Vaswani et al., “Attention Is All You Need”, Advances in Neural Information Processing Systems 30 (2017)
• Emily M. Bender, Timnit Gebru, Angelina McMillan-Major and Shmargaret Shmitchell, “On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?”, Proceedings of FAccT (2021)
• National Institute of Standards and Technology (NIST), Artificial Intelligence Risk Management Framework (AI RMF 1.0), NIST AI 100-1 (2023)

Escrito con ayuda de IA y revisado con las fuentes indicadas. Léelo antes de compartirlo con un niño.

Este idioma todavía no lo ha revisado un hablante nativo.