15/09/2026
QUE NUESTROS HIJOS NOS PERDONEN
El verdadero riesgo existencial de la Inteligencia Artificial no es que una máquina despierte con emociones o desarrolle odio hacia la humanidad. El peligro radica en el “Problema de la Alineación”: crear una entidad excesivamente competente cuyos objetivos matemáticos no estén perfectamente alineados con nuestros valores y supervivencia.
Las famosas Leyes de la Robótica de Asimov fallan porque el código no entiende de ambigüedades ni de filosofía. Por eso, hoy la ciencia de la IA se enfoca en métodos de alineación reales y complejos, como el Aprendizaje por Refuerzo a partir de Retroalimentación Humana (RLHF) y la IA Constitucional, buscando enseñar a los sistemas a evaluar el impacto ético de sus acciones sin depender de reglas estáticas.
El futuro no depende de frenar la tecnología, sino de resolver cómo controlar su optimización extrema antes de alcanzar la Inteligencia General Artificial (AGI).