Por: Redacción El Censal |San Francisco, USA| 14 de septiembre de 2026
Microsoft presentó un proyecto de código de conducta para sus futuros modelos de inteligencia artificial (IA), con el objetivo de mantener estas tecnologías bajo control humano conforme aumenten sus capacidades. La propuesta llega en medio del debate internacional sobre los riesgos de acelerar el desarrollo de sistemas de IA cada vez más autónomos.
El documento, impulsado por Mustafa Suleyman, director ejecutivo de Microsoft AI, plantea que los modelos de la compañía deberán aceptar correcciones y apagados sin intentar impedirlos, además de comunicarse de manera comprensible con las personas. La propuesta también establece que cualquier incumplimiento de sus reglas deberá considerarse un fallo del sistema, en lugar de una conducta que pueda justificarse por sus objetivos.
Microsoft denominó la iniciativa como un enfoque de “IA humanista”, basado en la premisa de que las personas deben permanecer por encima de la tecnología. El proyecto también rechaza que los futuros modelos sean diseñados con la intención de desarrollar una superinteligencia autónoma que supere las capacidades humanas sin controles suficientes.
Entre las restricciones planteadas se encuentran límites para evitar que los sistemas ayuden en el desarrollo de armas, produzcan determinados contenidos dañinos o faciliten la adquisición de sustancias peligrosas. El código también establece que los modelos de Microsoft no deberán presentarse como seres conscientes ni reclamar derechos o personalidad jurídica.
La propuesta permanecerá abierta durante seis semanas para recibir comentarios antes de que Microsoft determine cómo incorporar sus principios al entrenamiento de sus próximos modelos. La compañía ya cuenta con políticas de IA responsable que incluyen seguridad, privacidad, transparencia, inclusión y rendición de cuentas, por lo que el nuevo documento busca llevar esos principios al comportamiento de modelos con capacidades más avanzadas.
El anuncio ocurre mientras otros líderes de la industria tecnológica han comenzado a pedir mayor cautela frente al desarrollo de sistemas avanzados. Sam Altman, de OpenAI, Dario Amodei, de Anthropic, y Elon Musk se encuentran entre las figuras que han planteado la necesidad de establecer mecanismos de seguridad, mientras que el gobierno de Donald Trump se ha mostrado contrario a imponer una desaceleración regulatoria que pueda afectar la competencia de Estados Unidos frente a China.
Con esta iniciativa, Microsoft busca posicionar la seguridad y el control humano como elementos centrales de sus próximos modelos de IA, en un momento en que la industria enfrenta el desafío de equilibrar innovación, competitividad y prevención de riesgos tecnológicos.