El consejero delegado de Microsoft AI, Mustafa Suleyman, se sumó al debate internacional sobre el desarrollo y control de la inteligencia artificial (IA) y cuestionó el entrenamiento de estos sistemas para adoptar características humanas. Según el directivo, este enfoque podría dificultar la supervisión de la tecnología y generar sistemas que aparenten tener deseos, valores o intereses propios.
Las declaraciones fueron realizadas durante una entrevista con la BBC, luego de la publicación de un ensayo titulado “Una advertencia sobre el bienestar de los modelos”, en el que Suleyman cuestionó particularmente el enfoque utilizado por Anthropic en el desarrollo de su modelo Claude. Aunque expresó sus reparos, calificó de “intelectualmente honestos” al CEO de Anthropic, Dario Amodei, y a su equipo.
Suleyman sostuvo que los actuales sistemas de IA no son conscientes ni tienen sentimientos, preferencias innatas o motivaciones propias, sino que están diseñados para seguir instrucciones y alcanzar objetivos establecidos por personas. En ese sentido, advirtió sobre los riesgos de desarrollar tecnologías capaces de establecer sus propios objetivos, generar ingresos o poseer activos.
De acuerdo con el directivo, una IA con ese nivel de autonomía podría convertirse en una nueva forma de tecnología capaz de competir con los seres humanos por determinados recursos. Por ello, planteó la necesidad de reforzar la transparencia sobre la forma en que se entrenan y evalúan los modelos, además de incorporar mecanismos de supervisión independiente y herramientas que permitan controlar su comportamiento.
El responsable de Microsoft AI también defendió el denominado “alineamiento”, un enfoque que busca que los sistemas de inteligencia artificial permanezcan sujetos a principios éticos y objetivos definidos por los seres humanos. La discusión se mantiene como uno de los principales desafíos del desarrollo de la IA, especialmente a medida que las empresas avanzan hacia modelos con mayores capacidades y niveles de autonomía.
