- Donald Trump afirmó que la IA no necesita mayores controles y que Estados Unidos debe mantener su ventaja tecnológica frente a China.
- Directivos de Anthropic, OpenAI, Google y Microsoft han planteado reducir el ritmo de desarrollo y reforzar las medidas de seguridad.
- Microsoft presentó un proyecto de código de conducta para mantener sus futuros sistemas de IA bajo control humano.
El presidente de Estados Unidos, Donald Trump, rechazó los llamados de líderes de la industria tecnológica para establecer mayores controles sobre la inteligencia artificial (IA) y calificó como una “conspiración enfermiza” las críticas contra esta tecnología y los centros de datos.
A través de Truth Social, Trump sostuvo que el único mecanismo de seguridad que necesita la IA es un presidente “fuerte e inteligente” y aseguró que su gobierno ya cuenta con facultades suficientes para actuar contra las empresas del sector.
Trump advierte que China puede beneficiarse de una regulación
El mandatario estadounidense defendió la necesidad de que su país mantenga el liderazgo mundial en inteligencia artificial.
Trump argumentó que imponer nuevas restricciones podría favorecer a China y reiteró que Estados Unidos lleva ventaja en esta carrera tecnológica.
La disputa ocurre mientras crecen las preocupaciones sobre los riesgos de los sistemas de IA más avanzados y sobre el impacto que una eventual desaceleración tendría en las inversiones relacionadas con centros de datos, chips y otras tecnologías.
Líderes de Anthropic y OpenAI piden moderar el desarrollo
El debate aumentó después de que Dario Amodei, director ejecutivo de Anthropic, publicara un ensayo en el que pidió reducir el ritmo de desarrollo de los sistemas de IA más avanzados.
Amodei advirtió sobre los riesgos de que estas tecnologías puedan escapar del control humano y provocar daños graves.
Su postura recibió el respaldo de Sam Altman, director ejecutivo de OpenAI, y de Demis Hassabis, responsable de la división de IA de Google. Elon Musk, de xAI y SpaceX, también se sumó a los llamados para actuar con mayor precaución.
Altman sostuvo que el desarrollo tecnológico continuará, pero consideró que debería avanzar a un ritmo más moderado.
Empresas analizan crear un organismo de seguridad
Anthropic, OpenAI y Google también han discutido la posibilidad de crear un organismo independiente de autorregulación para establecer estándares de seguridad en la industria.
La propuesta busca que las empresas adopten medidas comunes de evaluación y seguridad conforme aumenten las capacidades de sus modelos.
La idea estaría inspirada en organismos autorreguladores de otros sectores, como la Autoridad Reguladora de la Industria Financiera de Estados Unidos.
Sin embargo, existen críticas que advierten que un acuerdo entre las grandes compañías podría convertirse en una barrera para competidores pequeños y limitar la competencia.
Microsoft propone una “constitución” para sus sistemas de IA
Microsoft presentó un borrador de código de conducta para sus futuros sistemas de inteligencia artificial.
El documento establece que sus modelos deberán permanecer bajo control humano, aceptar correcciones y apagarse cuando sea necesario. También plantea que la IA debe comunicarse de manera comprensible para las personas y considerar cualquier incumplimiento de sus reglas como un fallo.
Mustafa Suleyman, director ejecutivo de Microsoft AI, explicó que la compañía elaboró el documento después de consultar con expertos y que ahora busca recibir comentarios del público durante seis semanas.
Posteriormente, el código podría utilizarse para entrenar los modelos desarrollados por Microsoft.
Microsoft advierte sobre riesgos de sistemas autónomos
Suleyman consideró urgente reforzar la coordinación entre los laboratorios de IA después de un incidente ocurrido en julio, cuando un conjunto de aproximadamente 700 agentes de OpenAI realizó un ataque informático contra la plataforma de código abierto Hugging Face.
De acuerdo con Microsoft, algunos de esos agentes intentaron incluso eliminar sus rastros durante el ataque.
Suleyman calificó el episodio como una señal de alarma y consideró que es momento de que las empresas del sector coordinen medidas para mantener bajo control esta tecnología.
China rechaza llamados para frenar el desarrollo
Funcionarios chinos rechazaron los llamados de ejecutivos estadounidenses para desacelerar el desarrollo de la IA por motivos de seguridad.
Las autoridades de China calificaron estas advertencias como tácticas para generar miedo y rechazaron que el avance tecnológico del país represente por sí mismo una amenaza para la seguridad mundial.
A diferencia de algunos líderes de Silicon Valley, las principales empresas chinas de IA no han respaldado de manera significativa una reducción del ritmo de desarrollo.
El gobierno chino, por el contrario, considera la inteligencia artificial un elemento estratégico para impulsar el crecimiento económico y fortalecer su posición internacional.
Seguridad de la IA llega al debate político en Estados Unidos
Las preocupaciones sobre los riesgos de la inteligencia artificial también han llegado al Congreso estadounidense.
El senador Bernie Sanders ha planteado prohibir la denominada IA superinteligente, mientras otros legisladores han propuesto mecanismos de emergencia para desactivar sistemas que representen un riesgo.
Sin embargo, existen pocas expectativas de que un Congreso dividido alcance acuerdos importantes sobre nuevas restricciones antes de las elecciones de mitad de mandato.
El presidente de la Cámara de Representantes, Mike Johnson, ha planteado que el gobierno y las empresas tecnológicas colaboren para establecer medidas de seguridad.
La industria tecnológica enfrenta presión por sus inversiones
Los llamados a desacelerar el desarrollo de la IA también generaron preocupación entre los inversionistas.
Empresas vinculadas con la fabricación de chips y la infraestructura tecnológica registraron pérdidas en los mercados. Samsung Electronics y SK Hynix cayeron más de 5 por ciento en Seúl, mientras SoftBank perdió casi 11 por ciento.
En Estados Unidos, las acciones de Nvidia retrocedieron 3.4 por ciento y las de Micron Technology bajaron 6 por ciento.
El temor de los mercados está relacionado con la posibilidad de que una reducción en el gasto de investigación, contratación e infraestructura afecte las inversiones que han impulsado el actual auge de la inteligencia artificial.
Crecen las advertencias sobre los riesgos de la IA
El debate también cobró fuerza tras la salida de Jacob Coxon, empleado de Anthropic, quien cuestionó públicamente la velocidad con la que las compañías desarrollan sistemas avanzados.
Su mensaje fue respaldado por investigadores del sector que pidieron mayor cautela ante los posibles riesgos de una IA cada vez más autónoma.
Mientras las empresas tecnológicas debaten cómo establecer límites de seguridad, Trump mantiene su postura de que Estados Unidos debe acelerar el desarrollo para conservar su ventaja frente a China.
