- The Box Data
- Posts
- Riesgos emergentes de la IA.
Riesgos emergentes de la IA.
Los peligros inherentes a las nuevas tecnologías.
The Box Data
November 11, 2024
Buen Lunes, te damos el combustible para tus charlas matutinas en el trabajo y de inicio de semana.
-Hay tres frases que nos impiden avanzar: tengo que hacerlo bien, me tienes que tratar bien y el mundo debe ser fácil. Albert Ellis.
¿Primera vez que nos lees? Únete a miles de personas que nos leen todos los días Suscríbete aquí, es totalmente gratis. Escríbenos: [email protected]
DATA ACTUALIDAD…
La rápida adopción de la Inteligencia Artificial, sus implicaciones y riesgos.
La Inteligencia Artificial (IA) está siendo adoptada a una velocidad sorprendente, marcando un nuevo récord en la historia de la tecnología. Mientras que Internet tomó aproximadamente 23 años en alcanzar los mil millones de usuarios y la tecnología móvil unos 16 años, se estima que la IA generativa logrará esta cifra en apenas siete años. Este ritmo acelerado de adopción trae consigo una serie de desafíos y riesgos en términos de ciberseguridad, que afectarán tanto a empresas como a millones de personas en su vida cotidiana.
IA: Potencial para el bien y para el mal.
En la actualidad, cualquiera con acceso a Internet puede utilizar decenas de herramientas de IA para tareas que van desde generar imágenes sintéticas hasta analizar grandes volúmenes de datos en tiempo real. Esta accesibilidad democratiza el uso de una tecnología que, hasta hace pocos años, estaba reservada para grandes corporaciones.
La IA ya ha probado su utilidad en numerosos sectores, desde la industria pesada hasta la educación y la ciencia. En ciberseguridad, los profesionales emplean la IA para identificar patrones de ataque complejos, mientras que analistas de datos la utilizan para obtener información relevante en enormes bases de datos. Los desarrolladores, por su parte, se apoyan en la IA como asistente de codificación. Sin embargo, con este poder y accesibilidad también surgen preguntas críticas: ¿cómo impedir que grupos con intenciones maliciosas utilicen la IA para sus ataques? ¿Podría la IA generar software malicioso (malware) o facilitar ataques más sofisticados?
El uso de la IA por ciberdelincuentes.
Lamentablemente, la respuesta a estas preguntas es afirmativa. Organizaciones criminales han comenzado a emplear la IA para planificar y ejecutar ataques cada vez más precisos y de mayor alcance. Investigadores de Unit 42 de Palo Alto Networks han documentado múltiples casos en los que ciberdelincuentes usan IA para explotar vulnerabilidades de software y APIs, desarrollando malwares avanzados y campañas de phishing más convincentes y difíciles de detectar.
A medida que la IA se convierte en una parte esencial de los procesos empresariales, los ciberatacantes adaptan sus técnicas para comprometer herramientas de IA desde su etapa de desarrollo. Este escenario exige que las empresas integren la ciberseguridad desde el diseño inicial de sus sistemas, algo conocido como “seguridad por diseño”, particularmente relevante cuando se crean aplicaciones con capacidades de procesamiento de lenguaje natural o IA generativa.
Adopción segura de la IA Generativa.
Implementar la IA generativa de forma segura no es solo una opción, sino una necesidad. La comprensión básica de su funcionamiento es esencial para todos los que la utilicen en una organización, de modo que puedan detectar sus posibles riesgos y usos indebidos. Las tácticas tradicionales de ciberseguridad, como la arquitectura de "Confianza Cero", continúan siendo relevantes y deben complementarse con las recomendaciones de expertos en respuesta a incidentes. Es fundamental que las empresas actualicen constantemente sus sistemas y mantengan vigilados sus entornos digitales para identificar cualquier amenaza.
Otro aspecto crucial es monitorear y controlar el uso de la IA en aplicaciones que manejan información sensible, evitando así que se filtre o se exponga información confidencial. Para ello, existen herramientas de inspección de contenido automatizadas que permiten revisar datos y archivos en cualquier dispositivo. La recomendación es integrar estas medidas de seguridad desde el inicio, ya que las soluciones aplicadas tardíamente suelen ser menos efectivas.
IA como herramienta de defensa.
Pese a los riesgos, la IA también promete fortalecer las estrategias de defensa cibernética. Con su ayuda, es posible automatizar procesos y agilizar tareas repetitivas, lo que permite optimizar el trabajo de los equipos de ciberseguridad. La IA puede analizar datos a gran escala y detectar patrones en tiempo real, ayudando a reducir significativamente la carga de trabajo en la protección de redes e infraestructuras de seguridad.
Para las organizaciones que desean implementar la IA de manera segura, un buen punto de partida es asignarla a tareas que consumen tiempo y que son susceptibles de automatización. Si bien la IA generativa aún puede cometer errores, su rapidez y eficiencia pueden complementar el trabajo humano, siempre que se supervise y valide el resultado.
Explorando el potencial y el riesgo de la IA generativa.
Durante 2024, Unit 42 ha estado monitoreando las capacidades de los atacantes que emplean IA, documentando su impacto en la velocidad, escala y sofisticación de los ataques. Aunque hoy en día la IA generativa aún tiene limitaciones, ha demostrado ser capaz de mejorar los ataques existentes. Investigadores en ciberseguridad continúan analizando cómo los delincuentes podrían emplear IA para crear, modificar y depurar malwares con una efectividad creciente. Aunque esta capacidad es rudimentaria en la actualidad, los expertos consideran que seguirá avanzando rápidamente.
Del mismo modo, la IA está siendo aprovechada en programación legítima, donde ayuda a reducir costos y tiempos de desarrollo. Pero esta misma eficiencia que beneficia a las empresas puede ser también una herramienta poderosa en manos equivocadas, y no hay motivos para pensar que los actores malintencionados no explotarán estas ventajas en sus propios ataques.
El futuro de la ciberseguridad en la era de la IA.
El futuro de la IA dependerá de cómo se gestionen sus riesgos y beneficios. Los expertos concuerdan en que la mejor defensa es la anticipación y preparación. Las empresas deben ser proactivas, adoptando un enfoque preventivo que integre la IA tanto en sus procesos de innovación como en sus protocolos de seguridad. La ciberseguridad en la era de la IA no es solo una cuestión de barreras tecnológicas, sino de adaptabilidad y compromiso para resguardar tanto los activos digitales como la privacidad de los usuarios.
En conclusión, la IA generativa presenta un panorama prometedor pero desafiante para la ciberseguridad. A medida que la tecnología avance, es imprescindible que las organizaciones y los individuos adopten prácticas de seguridad robustas, protegiéndose y minimizando los riesgos que esta poderosa herramienta podría traer consigo.
Con información de FayerWayer*.
DATA EN CORTO…
ComputerHoy*. Cómo el resultado de las elecciones de EE.UU. UU. pueden influir en el futuro de la tecnología y la IA: Elon Musk contra Bill Gates.
DesdeLinux*. Editor de vídeo OpenShot: Sobre la versión 3.2.1 lanzada en julio de 2024.
Electrek*. Por primera vez, BYD pronto superará a Ford en entregas.
Expansión*. Con Trump no peligra la fabricación de software, pero sí de electricidad.
FayerWayer*. Los paneles solares se vuelven obsoletos con estos generadores de electricidad eólica que usan levitación magnética.
Newsweek en Español*. Caso Marilyn Cote: Abogada en Puebla se hace pasar por psiquiatra y genera controversia.
YahooTech*. Según se informa, Amazon quiere que los conductores usen gafas de realidad aumentada para mejorar la eficiencia hasta que los robots puedan tomar el control.
Gizmodo en Español*. Una grieta gigante está partiendo a África y creará un nuevo océano.
La Mazana Mordida*. ¿Necesitas reparar tu iPhone? Apple ya te vende sus componentes para ahorrar en la reparación.
UrbanTecno*. Qué son las mangas marinas y cómo se forman.
¿PADÓNDE VAMOS?…
 | Genbeta*. Un desarrollador ha analizado 12 millones de ofertas de trabajo de programación durante 21 meses. Estos son los más demandados. Estar al tanto de los lenguajes de programación más demandados se ha convertido en una herramienta esencial para cualquier persona que quiera abrirse paso en el competitivo mercado laboral de desarrollo de software. |
DATA INTERMEDIA…
Los informales.
El Economista*. ¿Cuáles son los ingresos promedio de los trabajadores informales en México? En México 1 de cada 2 trabajadores se ocupa bajo algún esquema de informalidad laboral. Se observa que los ingresos en el empleo informal son más bajos en relación con el empleo formal; especialmente para las mujeres.
Suben turistas.
Forbes México*. El turismo internacional en México creció un 13.5% interanual en septiembre. México recibió en septiembre pasado un 13.5% más de turistas internacionales que en el mismo mes de 2023, acompañado de un incremento mayor al 2% en los ingresos económicos por este rubro, informó este lunes el Instituto Nacional de Estadística y Geografía (Inegi).
La IAG.
Futurism*. Sam Altman dice que lo que más le entusiasma el próximo año es lograr la IAG. Los propósitos de Año Nuevo de muchas personas incluyen ir al gimnasio o administrar mejor su presupuesto, pero para Sam Altman, el director ejecutivo de OpenAI, el año nuevo significa marcar el comienzo de la singularidad.
DATA FINANCIERA…
¡Zacarrácatelas!
El Financiero*. Bitcoin mata oro. Durante los últimos 365 días, el oro aumentó su valor 38 por ciento. Buenas noticias para quienes tienen un Centenario, cadenas, aretes o joyas ochenteras. En ese mismo período, el bitcoin aumentó 114 por ciento, tres veces más.
Avanzan.
El Economista*. Wall Street avanza; destacan acciones de Tesla y negocios cripto. Los tres principales índices de Wall Street abrieron con ganancias las negociaciones de este lunes. En una sesión que no cuenta con el mercado de bonos debido a un festivo en Estados Unidos , los inversionistas asimilan la victoria de Donald Trump y un recorte de tasas.
Felices 39 años.
El Financiero*. Monex: 39 años de liderazgo e innovación en el sector Financiero. Monex celebra su 39 aniversario, destacándose como una de las instituciones financieras más confiables de México. Su compromiso con la calidad, la innovación y la seguridad, lo han consolidado como líder en el mercado de divisas y pagos internacionales.
DATA REVISITED…
🧾 1620 Los peregrinos firman el Pacto del Mayflower en Cape Cod, estableciendo el primer marco de gobierno en el territorio que hoy es Estados Unidos [NS 21 de noviembre]
🧾 1675 El matemático alemán Gottfried Wilhelm Leibniz demuestra por primera vez el cálculo integral para encontrar el área bajo la gráfica de la función y = f(x)
🧾 1745 El ejército jacobita del Príncipe Carlos invade Inglaterra en un intento de restaurar la Casa de Estuardo en el trono británico.
🧾 1918 Entra en vigor el armisticio de la Primera Guerra Mundial firmado por los Aliados y Alemania, y las hostilidades terminan a las 11 de la mañana, "la undécima hora del undécimo día del undécimo mes".
🧾 1975 El primer ministro australiano Gough Whitlam es destituido de su cargo por el gobernador general Sir John Kerr, el primer primer ministro electo destituido en la historia de Australia.
🧾 1986 Burroughs y Sperry se fusionan y nace "Unisys".
🧾 1992 La Iglesia de Inglaterra aprueba la ordenación de mujeres sacerdotes.
🧾 2004 La muerte de Yasser Arafat por causas no identificadas es confirmada por la Organización para la Liberación de Palestina y Mahmoud Abbas es elegido presidente de la OLP poco después.
🧾 2006 Sony lanza su videoconsola PlayStation 3
* TODOS Y CADA UNO DE LOS DISTINTIVOS, NOMBRES, SIGNOS Y MARCAS SON PROPIEDAD DE SUS LEGÍTIMOS DUEÑOS, ASÍ COMO LOS CONTENIDOS QUE REFERIMOS SIEMPRE A SUS FUENTES ORIGINALES Y QUE CITAMOS ÚNICA Y EXCLUSIVAMENTE PARA FINES MERAMENTE INFORMATIVOS Y DE DIVULGACIÓN.
LAS EMPRESAS MÁS IMPORTANTES DE MÉXICO Y EL MUNDO PAUTAN PUBLICIDAD EN NEWSLETTERS…
…y usted?
Reply