Altman marcó dos puntos rojos en el futuro de la inteligencia artificial: pérdida de control y concentración de poder

Empiezo por el problema que me dejaron estas declaraciones: Sam Altman, el CEO de OpenAI, salió a marcar dos puntos rojos sobre el mapa de la inteligencia artificial. No son menores. Uno es perder el control de sistemas cada vez más capaces. El otro es que una sola persona, empresa o país se quede con un poder desproporcionado gracias a esa misma tecnología.

Los dos escenarios que preocupan a Altman

El primer escenario suena a película, pero lo dijo él: la humanidad podría perder el control sobre el futuro frente a una IA que avanza más rápido que nuestra capacidad de dirigirla. Para evitarlo, el planteo es técnico y concreto: las técnicas de alineación y seguridad tienen que correr a la par de las capacidades de los modelos, o incluso un paso adelante.

El segundo escenario es más terrenal y, a mi entender, más urgente: la concentración de poder. Si una IA potentísima queda en manos de unos pocos, el riesgo no es teórico. Piensen en un pueblo santacruceño donde un solo establecimiento decide a qué precio se compra la lana, comprar y a quién se le vende. Ahora imaginen eso, pero con un sistema que moldea opiniones, mercados y decisiones a escala global. Así, según Altman, el resultado puede ser extremadamente distópico.

“Podríamos perder el control del futuro ante la IA. Esto es inaceptable; estamos, sin disculpas, en el Equipo Humanidad, y la IA debe siempre servir a las personas.”Sam Altman, CEO de OpenAI

Qué pidió para frenar el avance

• Un marco regulatorio federal con requisitos de seguridad comunes para los modelos de frontera, que son los más avanzados del momento.
• Incorporación de auditores independientes a los mecanismos de supervisión, para que el control no quede solo en manos de las propias empresas.
• Aplicación de medidas de seguridad por parte de las compañías, sin esperar a que salgan nuevas leyes.
• Coordinación internacional entre gobiernos, porque, según Altman, las empresas necesitan ese respaldo para ordenar la competencia entre países.

También fue claro con un mensaje que parece dirigido a Washington: la pulseada tecnológica con otras potencias no habilita a tomar riesgos innecesarios. Ninguna cantidad de presión competitiva debería justificar la imprudencia, dijo. Y remató con una frase que define el desafío: evitar ambos riesgos al mismo tiempo implica caminar por un sendero angosto, con regulación de un lado y avance del otro.

Por qué esto importa

Lo interesante de las declaraciones de Altman no es sólo lo que dijo, sino desde dónde lo dijo. No es un legislador ni un crítico externo: es el CEO de la empresa que puso al mundo a hablar de IA generativa. Cuando alguien así reconoce que el problema existe y pide regulación federal, auditores externos y coordinación entre países, el debate deja de ser futurista y pasa a ser una discusión concreta de política pública. La pregunta es cuándo esos mecanismos empiezan a traducirse en normas firmes y no sólo en buenas intenciones.