Modelos IA: ¿Abiertos o Cerrados?

Que tengas un excelente Jueves. Te damos las mejor mano en la baraja de la información para que ganes todas las partidas.

- Al final no son los años en nuestra vida lo que cuenta, sino la vida en nuestros años. Abraham Lincoln.

¿Primera vez que nos lees? Únete a miles de personas que nos leen todos los días Suscríbete aquí, es totalmente gratis. Escríbenos: [email protected] 

DATA ACTUALIDAD…

La actualidad de los modelos de IA: ¿abiertos o cerrados? Sus implicaciones.

Los modelos de inteligencia artificial de última generación, como ChatGPT de OpenAI y Claude de Anthropic, están diseñados con un enfoque de control. Sus creadores establecen estrictas condiciones de acceso para evitar usos malintencionados. Esto los distingue de los modelos de IA "abiertos", que son accesibles para cualquiera, permitiendo su descarga, modificación y utilización con fines diversos. Un reciente informe de Epoch AI, organización de investigación sin fines de lucro, señala que los modelos abiertos actuales están un año atrás en rendimiento comparado con los mejores modelos cerrados.

Según Ben Cottier, investigador principal de este informe, "el mejor modelo abierto actual tiene un desempeño similar al de los modelos cerrados, pero con una diferencia temporal de aproximadamente un año". Esto se ilustra con el modelo Llama 3.1 405B de Meta, lanzado en julio, que alcanzó capacidades comparables a la primera versión de GPT-4 tras unos 16 meses. Se espera que la brecha se reduzca si Meta lanza un nuevo modelo de IA de código abierto, Llama 4, en el futuro próximo.

Los desafíos y ventajas de los modelos abiertos.

La diferencia entre los modelos de IA "abiertos" y "cerrados" es compleja. Aunque Meta describe sus modelos Llama como de código abierto, no cumple con la definición actualizada de la Open Source Initiative (OSI), que exige que las empresas compartan no solo el modelo en sí, sino también los datos y el código utilizados en su entrenamiento. Meta sí publica los "pesos" de sus modelos (parámetros que permiten la descarga y modificación del modelo) pero no comparte los datos de entrenamiento ni el código. Esto contrasta con el propósito inicial del código abierto, que busca transparencia y accesibilidad total.

Los modelos abiertos promueven la democratización de la tecnología y fomentan la innovación y competencia. Elizabeth Seger, directora de política digital en el grupo de expertos Demos, sostiene que las comunidades abiertas permiten la participación de investigadores, desarrolladores independientes y laboratorios de IA sin fines de lucro, estimulando la innovación técnica. En países como India, las aplicaciones de IA en servicios públicos están construidas en su mayoría a partir de modelos de código abierto. La apertura de estos modelos también facilita la transparencia, permitiendo examinar sus datos de entrenamiento y mitigar posibles sesgos, como ilustra el modelo Stable Diffusion 2, cuyo acceso abierto permite investigaciones sobre derechos de autor y equidad en los datos utilizados.

La seguridad en modelos de IA abiertos y cerrados.

Sin embargo, la apertura de los modelos de IA trae consigo ciertos riesgos. Al ser accesibles a todos, pueden ser utilizados con fines dañinos, como la creación de contenido malicioso o en aplicaciones militares. Un informe reciente de Reuters reveló que instituciones chinas, vinculadas al Ejército Popular de Liberación, han empleado una versión antigua del modelo Llama para desarrollar herramientas militares. Esto muestra cómo, una vez que un modelo se publica, su uso se escapa del control del desarrollador. En contraste, los modelos cerrados presentan mayores garantías de seguridad, ya que su acceso y uso están bajo el control de sus creadores.

Aun así, los modelos cerrados también tienen sus limitaciones, especialmente en términos de transparencia y privacidad. Las organizaciones que utilizan IA para procesar información confidencial pueden preferir evitar estos modelos, ya que no pueden inspeccionar completamente los datos de entrenamiento para identificar posibles problemas, como sesgos o materiales protegidos por derechos de autor. Aunque cuentan con sistemas de seguridad para limitar el mal uso, estas protecciones no son infalibles, y algunos usuarios han logrado burlar estas restricciones.

Gobernanza y el rol de los modelos de IA en la sociedad.

La gobernanza de los modelos de IA es actualmente un tema prioritario para gobiernos y organizaciones. En Estados Unidos, instituciones como el Instituto de Seguridad de la IA (AISI) trabajan en colaboración con empresas como Anthropic para evaluar la seguridad de los modelos de IA antes de su lanzamiento. Esta colaboración busca reducir los riesgos potenciales que pueden presentarse con el uso de estos modelos en la vida diaria y en ámbitos sensibles como la defensa y la seguridad nacional. En agosto, el AISI firmó un acuerdo con Anthropic para colaborar formalmente en la investigación y evaluación de seguridad de sus modelos de IA.

Para modelos abiertos, la gobernanza plantea retos específicos, especialmente frente a los riesgos extremos que podrían derivarse de su uso, como el empoderamiento de bioterroristas o el aumento de los ciberataques. La forma en que las políticas de regulación deben abordar estos riesgos depende de si la brecha de capacidades entre modelos abiertos y cerrados se reduce o se amplía. Si esta brecha sigue creciendo, la regulación se podría enfocar más en los modelos cerrados, que son más fáciles de controlar. Sin embargo, si los modelos abiertos cierran esa distancia, será crucial plantear estrategias de regulación efectivas para estos modelos sin una entidad central de control.

El futuro de los modelos de IA: entre la innovación y la seguridad.

Las compañías de IA de última generación enfrentan el desafío de balancear la innovación y el acceso abierto con la seguridad. Mientras que OpenAI y Anthropic se centran en vender acceso a sus modelos como base de su negocio, Meta plantea una visión distinta. En una carta abierta, el CEO de Meta, Mark Zuckerberg, explicó que su modelo de negocio no se centra en la venta de acceso a modelos de IA, sino en su apertura, modificabilidad y rentabilidad, considerando que la IA de código abierto es crucial para la seguridad y la competitividad global de Estados Unidos.

La evolución de la IA trae nuevas capacidades cada día, lo que complica aún más su gobernanza y regulación. La comunidad de IA coincide en la importancia de establecer modelos claros de amenaza y evaluar los riesgos asociados con la apertura y el uso de estos modelos para así intervenir de manera adecuada y proteger a la sociedad.

Con información de TIME*.

DATA EN CORTO…

¿PADÓNDE VAMOS?…

DATA INTERMEDIA…

DATA FINANCIERA…

DATA REVISITED…

* TODOS Y CADA UNO DE LOS DISTINTIVOS, NOMBRES, SIGNOS Y MARCAS SON PROPIEDAD DE SUS LEGÍTIMOS DUEÑOS, ASÍ COMO LOS CONTENIDOS QUE REFERIMOS SIEMPRE A SUS FUENTES ORIGINALES Y QUE CITAMOS ÚNICA Y EXCLUSIVAMENTE PARA FINES MERAMENTE INFORMATIVOS Y DE DIVULGACIÓN.

LAS EMPRESAS MÁS IMPORTANTES DE MÉXICO Y EL MUNDO PAUTAN PUBLICIDAD EN NEWSLETTERS…

…y usted?

Si tiene interés en publicitar su marca, empresa o producto con nosotros, anímese a pedir información al respecto dando clic aquí.