Las empresas de IA esperan más intervención del gobierno; “es algo con lo que tendremos que vivir”: Databricks

San Francisco, California – Las empresas de inteligencia artificial estadounidenses son conscientes de que la vigilancia por parte del gobierno de su presidente, Donald Trump , será más constante y rigurosa, por lo que deberán aprender a lidiar con tales intervenciones sin afectar el desarrollo de sus tecnologías. En el futuro, “veremos a más gobiernos interviniendo en cómo se usa la IA. Considero que es algo con lo que tendremos que aprender a vivir”, comentó Ali Ghodsi , CEO de la firma de gestión de datos para la IA, Databricks , respecto al decreto que firmó Trump para tener acceso a los modelos de IA de sus empresas.

Hace un par de semanas, Trump detalló que las compañías de IA deberán compartir voluntariamente todos aquellos nuevos modelos con capacidades avanzadas hasta 30 días antes de proporcionar acceso a otros socios. De acuerdo con un vocero de la Casa Blanca , este decreto refleja el “enfoque de sentido común de Trump de colaborar con la industria para equilibrar la innovación y la seguridad, consolidando el continuo dominio global de Estados Unidos en IA y ciberseguridad”. Al respecto, Ghodsi acepta que la IA se ha convertido en un dispositivo político e incluso un asunto de relevancia geopolítica, por lo cual los gobiernos están priorizando sus agendas cuando se relacionan a este tema. “La IA se analiza ahora bajo la lente de la seguridad del Estado”, afirma. En un comunicado, Chris Lehane, director global de asuntos públicos de OpenAI, señaló que el decreto es un “paso importante hacia adelante para la IA y subraya que la seguridad y la innovación deben avanzar de la mano para garantizar el liderazgo continuo de Estados Unidos en IA”. Antes de este decreto, el gobierno de Trump había adoptado un enfoque menos intervencionista en la regulación de la IA. Sin embargo, la presentación del modelo Mythos, de Anthropic, encendió las alarmas por su capacidad de explotar las vulnerabilidades de ciberseguridad. De hecho, esta misma semana la empresa suspendió el acceso a Fable 5 , una versión limitada de Mythos, porque el gobierno consideró que se trata de un riesgo para la seguridad nacional. Según la disposición de Trump, en virtud del control de exportaciones, se ordenó cortar el acceso a estos modelos para «todo ciudadano extranjero, dentro o fuera de Estados Unidos», incluidos «los empleados extranjeros» de Anthropic, razón por la cual la firma se vio obligada a “desactivar de forma abrupta” ambos modelos para sus clientes.

Al interior de Anthropic, los empleados ya se han quejado de esta situación. De acuerdo con reportes de The New York Times, existen chats grupales en donde la confusión respecto a las medidas de la administración Trump son constantes, pero la empresa emitió un comunicado donde reafirmó su compromiso a trabajar junto al gobierno.

En riesgo el código abierto Aunque Ghodsi se mostró receptivo a la idea de que el gobierno tenga más vigilancia sobre los sistemas de IA de las empresas, también advierte que puede ser riesgoso el hecho de que los gobiernos intervengan en otros estándares, como el código abierto, una tecnología importante para el desarrollo de innovaciones. “Si el código abierto se restringe, la investigación científica y el control de la IA quedarían limitados a unas pocas empresas”, comenta. “El código abierto es la herramienta que permite a las universidades y especialistas de todo el mundo entender qué sucede dentro de la IA y asegurar que funcione correctamente”. En el campo de la IA, el código abierto es relevante para generar sistemas más transparentes, donde también se mejore la gobernanta de los datos y su ciberseguridad, es decir, modelos con un trasfondo ético más robusto. Por otra parte, resaltó el hecho de que ante la posibilidad de que los agentes de IA ahora pueden acceder a sistemas y ejecutar procesos, es aún mayor la necesidad de monitorearlos constantemente para asegurar que no realicen acciones indebidas. En este sentido advirtió la necesidad de que las empresas implementen controles para que sus agentes de IA no respondan preguntas controvertidas, evitando así conflictos con normativas de las compañías.

]]>