IA de código abierto, el caballo negro de la carrera por los algoritmos

¿Por qué es importante la IA de código abierto?

OpenAI es la empresa insignia de la Inteligencia Artificial generativa , pero no es la única relevante. En la carrera de esta nueva tendencia también participan Microsoft, Google o Anthropic, pero no son los únicos casos y, como en casi todas las industrias tecnológicas, el código abierto también ocupa un lugar importante en esta competencia. La IA de código abierto (u open source, como también es conocida) se basa en un concepto de total transparencia en la cual todos los usuarios pueden acceder a nuevas tecnologías y observar cómo se construyen los modelos, es decir, tienen conocimiento desde los datos usados para su entrenamiento, hasta cómo se procesan. “Cuando hablamos de código abierto, estábamos hablando de una manera de que todos tengan acceso a la tecnología”, comenta Luciano Alves, CEO de la empresa de software Zabbix, quien menciona que una de las principales ventajas es que cualquier persona puede descargar una plataforma y realizar cambios para utilizarla en beneficio de su trabajo.

Los posibles riesgos de la IA de código abierto

Las pequeñas y medianas empresas (pymes), ejemplifica, que no cuentan con un gran presupuesto para pagar servicios mensuales, como Gemini o ChatGPT, tienen la oportunidad de manejar este tipo de herramientas, al igual que universidades o instituciones sin fines de lucro “Si bien el código abierto puede representar muchas ventajas, no hay una manera real de evitar que se use de forma maliciosa”, menciona Alves, quien destaca que una forma de mitigar los posibles riesgos es utilizar aquellas plataformas que cuentan con el soporte de una empresa reconocida y con un enfoque ético de la tecnología o, por lo menos, la capacidad de manejar grandes cantidades de datos con seguridad. Uso malicioso de la tecnología, a través de creación de contenido que no es verdadero y puede representar un riesgo para las democracias, o bien utilizar software para la modificación o clonación de voz con los cuales también se pueden realizar estafas financieras. Otro de los peligros de este tipo de modelos es que al estar ligados a datos públicos, la forma en que se reúne la información puede padecer de sesgos que limiten su alcance en términos de diversidad y capacidades informativas, por lo que al usarlos los productos se puede caer en discriminación o desinformación.

Las empresas que están desarrollando IA open source

Aunque OpenAI es la compañía que está liderando la conversación, hay una gran variedad de empresas trabajando en el código abierto, como Meta, que hizo de LLaMA 2, su modelo de IA, una alternativa de código abierto. La empresa de Mark Zuckerberg forma parte de la AI Alliance, un consorcio en el que participan más de 40 instituciones, entre empresas y centros de investigación, con el objetivo de desarrollar nuevos modelos de IA abiertos, así como herramientas de seguridad. Según su sitio web, su misión es “acelerar y difundir la innovación abierta en todo el panorama tecnológico de la IA para mejorar las capacidades fundamentales, la seguridad y la confianza en la IA, y maximizar de manera responsable los beneficios para las personas y la sociedad”. “Creemos que la IA es mejor cuando se desarrolla de forma abierta, porque más gente puede acceder a sus ventajas, a crear productos innovadores y trabajar en la seguridad”, comentó Nick Clegg, presidente de asuntos globales de Meta. A inicios de esta semana, Elon Musk anunció que la empresa emergente de inteligencia artificial xAI convertirá en código abierto a «Grok», su propuesta para rivalizar con ChatGPT, en un movimiento más que marca su cruzada contra OpenAI, a la cual acusó de traición a sus objetivos iniciales sin fines de lucro. La perspectiva del código abierto es tan importante que Luke Sernau, un ingeniero de software de Google, advirtió el año pasado que el código abierto es en la que se encuentra la verdadera evolución de la IA, debido a la capacidad de obtener avances en menos tiempo y con menos dinero que lo que hacen las grandes empresas. “Hemos mirado mucho sobre nuestros hombros en dirección a OpenAI. ¿Quién cruzará el próximo hito”, se pregunta en un documento interno que Bloomberg hizo público. “Pero la verdad incómoda es que no estamos posicionados para ganar esta carrera armamentista, y OpenAI tampoco. Mientras nos peleamos, una tercera fracción se ha estado comiendo nuestro almuerzo en silencio”.

]]>