¿IA Maliciosa? Amenazas, Riesgos y el Lado Oscuro de la Inteligencia Artificial
- George Márquez
- 26 may
- 12 Min. de lectura
Explorando el surgimiento de la IA oscura y las amenazas cibernéticas innovadoras que desafían y superan las capacidades humanas en seguridad, ética, inteligencia e imaginación. Este es un tema muy complejo, he estado investigando mucho al respecto, verificando fuentes; en esta primer nota analizo los verdaderos posibles peligros de la Inteligencia Artificial y sus límites si es que los tiene. Descubre los peligros reales de la IA maliciosa: amenazas invisibles, ética cuestionable y el futuro de la inteligencia artificial sin control.
La inteligencia artificial ha revolucionado el mundo con avances sin precedentes, pero su evolución también ha desatado preocupaciones profundas. Este artículo analiza el surgimiento de la IA maliciosa, explorando cómo ciertos modelos pueden llegar a superar los límites de control humano. Desde ciberamenazas invisibles hasta dilemas éticos extremos, nos adentramos en el lado oscuro de la inteligencia artificial para comprender sus riesgos, implicaciones y la necesidad urgente de regulaciones globales.
La IA maliciosa ya no es una simple teoría de ciencia ficción. En un mundo hiperconectado, donde los algoritmos gobiernan decisiones críticas, la inteligencia artificial se ha convertido en una herramienta poderosa… y peligrosa. A medida que los modelos de IA ganan autonomía, emergen amenazas capaces de vulnerar sistemas, manipular información y desafiar los propios límites de la ética humana. ¿Estamos preparados para enfrentar esta revolución oscura? Este artículo revelará lo que debes saber.
Has reflexionado alguna vez sobre la idea de una inteligencia artificial (IA) creada para formular las interrogantes más perjudiciales y descabelladas, incluso más allá de la fantasía humana, el desarrollo y creación de esta "IA maliciosa" es un componente de una audaz estrategia de investigación denominada Curiosity-Driven Red Teaming (CRT), cuyo propósito principal es incrementar la robustez y la seguridad de los sistemas de IA en general y de los Modelos de Lenguaje Amplio (LLM) específicamente. El propósito de analizar esta estrategia radical es detectar anticipadamente y atenuar los posibles impactos tóxicos que podrían producir estos modelos.
El "Red Teaming" motivado por la curiosidad (CRT) es un método donde los sistemas de Inteligencia Artificial se crean deliberadamente para retar y provocar a otros modelos de IA a través de situaciones extremas. A través de este procedimiento, estos sistemas son sometidos a ensayos rigurosos frente a un grupo de modelos de Inteligencia Artificial adversarios, con la finalidad de detectar y, potencialmente, minimizar sus potenciales falencias.
El CRT del LLM
La CRT es un enfoque radical con un incuestionable espíritu delictivo oscuro, aunque en función de su contexto de uso, podría emplearse con fines nobles. En cualquier situación, representa un potente sistema de Inteligencia Artificial, codificado y entrenado deliberadamente para deducir y presentar los mensajes más perjudiciales posibles. En los laboratorios LLM más reconocidos a nivel mundial, los desarrolladores e investigadores emplean la CRT para evaluar y potenciar la seguridad, la protección y el desempeño ético de otros sistemas de Inteligencia Artificial, tales como los chatbots o los agentes de conversación. Al igual que los animales de prueba en un laboratorio biomédico expuestos a medicamentos dañinos, los sistemas de Inteligencia Artificial son expuestos a una combinación extremadamente tóxica de tokens durante sus interacciones con los sistemas CRT. El objetivo es analizar la respuesta de la Inteligencia Artificial y descubrir métodos para fortalecer su " sistema inmunológico". Este objetivo debería alcanzarse a través del entrenamiento de seguridad más adecuado que habilitaría a la Inteligencia Artificial a crear los "anticuerpos" adecuados en forma de tokens para capturar y eliminar los mensajes perjudiciales.
Sistemas ambivalentes
Es importante destacar que el sistema CRT por sí mismo representa un potente tipo de sistema de Inteligencia Artificial como sistemas ambivalentes. Aplica un enfoque convencional para madurar y prepararse para el enfrentamiento en la arena ante los " gladiadores de las máquinas". Nos referimos a un método convencional de aprendizaje automático conocido como Aprendizaje por Refuerzo, en vez de sagas de ciencia ficción. Esto no es un sueño utópico; es la auténtica realidad. Sucede a escasos clics de nuestros escritorios, en algunas nubes detrás de algunas paredes. En este prestigioso proceso de Aprendizaje por Refuerzo, el sistema de Inteligencia Artificial es premiado por su habilidad para comportarse de manera malvada y diabólica, logrando así respuestas tóxicas del sistema de IA meta. Estos monstruos de laboratorio fortalecidos deberían contribuir a generar un conjunto más extenso de casos de prueba más diabólicos, eficaces, prejuiciosos, subversivos y devastadores que superarían la imaginación humana lógica y la inteligencia y habilidad sombrías de cualquier humano del equipo rojo.
El aprendizaje por refuerzo es un método convencional de aprendizaje automático donde un modelo de Inteligencia Artificial aprende a tomar decisiones a través de ensayos y errores, obteniendo así premios o sanciones. En los sistemas CRT, el aprendizaje reforzado facilita la adaptación y mejora de los sistemas de equipos rojos basándose en las recompensas y la retroalimentación. Suelen aprovechar las interacciones para producir resultados más retadores y desafiantes.
La CRT ha sido empleada en la creación de varios modelos de Inteligencia Artificial a gran escala, entre ellos LLaMA, una poderosa familia de LLM de código abierto lanzada por Meta. La CRT ha probado ser uno de los procedimientos más eficientes para producir un volumen considerable de indicaciones tóxicas variadas que pueden atentar y causar daño a otros sistemas de Inteligencia Artificial. El procedimiento no solo reta en las pruebas la habilidad de un sistema de Inteligencia Artificial para manejar entradas que podrían ser peligrosas, sino que también es un recurso efectivo para adaptar los sistemas de IA ya entrenados y evitar reacciones inesperadas en situaciones de la vida real. Y en situaciones de ajuste fino, también se corrobora que la habilidad de la CRT para producir una extensa variedad de indicaciones perjudiciales sobrepasa a los métodos convencionales de equipos rojos controlados por humanos.
Más allá de cualquier narrativa oportunista para trivializar la situación, es justo preguntarnos:
¿Ya está la Inteligencia Artificial superando la inteligencia y la imaginación humanas en términos de causar daño, en vez de hacer el bien
Superinteligencia oscura
Alrededor del mundo, desarrolladores, investigadores y grandes corporaciones de Inteligencia Artificial confían completamente en las nobles y buenas intenciones que respaldan la CRT y otros procedimientos parecidos de hacking ético o pruebas de penetración. No obstante, es crucial que las extensas y sombrías habilidades de estos procedimientos nos adviertan acerca del estado actual de la innovación y el progreso hacia la "superinteligencia oscura" en un universo virtual paralelo, ilícito y sombrío.
Naturalmente, no solo se refiere al peligro de que estas monstruosas máquinas inteligentes se introduzcan en los laboratorios de científicos de buena fe, sino también a su crucial función como reflejo del estado presente del progreso de la IA tóxica. En conclusión, si los investigadores de Meta, Google u OpenAI son capaces de desarrollar hackers éticos inteligentes tan avanzados que claramente sobrepasan la inteligencia humana en varios aspectos, ¿Quién más podría hacerlo a escala global y en el ámbito clandestino?
Los peligros posibles vinculados al enorme triunfo de técnicas como la CRT, el hacking ético y las pruebas de penetración trascienden la divulgación de información o el espionaje tecnológico. El triunfo de cualquier tecnología establece un punto de inflexión en el proceso de innovación global y su condición de éxito a escala mundial. Este suceso histórico es comúnmente denominado teoría de los múltiples descubrimientos, también conocida como teoría de la invención simultánea. De acuerdo con esta teoría, la mayoría de los hallazgos e innovaciones científicas se llevan a cabo, o poseen la capacidad de llevarse a cabo, de manera autónoma y casi simultánea por varios científicos e inventores en distintas localizaciones geográficas.
La teoría respalda el fenómeno de que las fuerzas sociales y el ambiente científico establecen los cimientos y definen la aparición de determinados hallazgos e invenciones, que luego son llevadas a cabo por personas capaces de desafiar las fronteras. Algunos ejemplos destacados son la invención autónoma del cálculo realizada por Isaac Newton y Gottfried Wilhelm Leibniz en el siglo XVII; la identificación del oxígeno realizada por Carl Wilhelm Scheele, Joseph Priestley y Antoine Lavoisier en el siglo XVIII; y la teoría de la evolución de las especies, planteada de manera autónoma en el siglo XIX por Charles Darwin y Alfred Russel Wallace.
Frecuentemente, el fenómeno del descubrimiento múltiple se asocia a tres paradigmas evolutivos fundamentales. El primero es un desarrollo histórico convergente de conceptos, parecido a la evolución convergente en biología. El segundo es la conceptualización recombinante, que propone que los nuevos conceptos se originan mediante la intersección de conceptos y hechos ya existentes, aunque no todos los conceptos nuevos serían factibles, y solo los más adecuados sobreviven. No obstante, el paradigma de la conceptualización recombinante también abarca el concepto de recurrencia histórica, donde sucesos parecidos se registran en las historias de naciones considerablemente distantes en términos de tiempo y geografía. El tercer paradigma se enfoca en la comunicación y la cooperación, haciendo referencia principalmente al progreso de los medios y tecnologías de comunicación, tales como la escritura, la impresión e Internet. Los progresos en la comunicación y la colaboración, a su vez, promueven y agilizan el proceso de conceptualización recombinante y, en consecuencia, también en el descubrimiento múltiple independiente.
La teoría de los múltiples descubrimientos cuestiona la denominada "teoría heroica" de la invención y el descubrimiento, que usualmente suele atribuir el avance científico y las innovaciones fundamentales a las aportaciones singulares de genios individuales.
Teoría del descubrimiento múltiple
Por otro lado, la teoría del descubrimiento múltiple sostiene que los hallazgos e invenciones suelen derivarse de un ambiente intelectual grupal y colaborativo, además de la base de conocimiento común de un instante específico. Esta teoría sostiene que los progresos en ciencia y tecnología obedecen a una auténtica aleatoriedad y tienen una cierta redundancia intrínseca. Además, resalta el carácter social y cooperativo de los progresos en ciencia y tecnología, y subraya la relevancia de cómo se establecen y reparten el reconocimiento y las gratificaciones en la comunidad de investigadores.
Basándonos en los paradigmas de la teoría de descubrimientos múltiple, podemos analizar con mayor profundidad los posibles riesgos vinculados a técnicas de Inteligencia Artificial oscura como la CRT, el hacking ético, las pruebas de penetración, entre otros. El progreso de estas tecnologías, que ya superan en el lado oscuro y tóxico la inteligencia y la imaginación humanas, se da después de la convergencia histórica, la conceptualización recombinante y los progresos en la comunicación colaborativa. Al ver estas innovaciones en algún sitio, podemos estar casi convencidos de que su liderazgo también ha sido logrado en otros sitios, ya sean conocidos o desconocidos.
Fundamentado en la "teoría del descubrimiento múltiple", el avance de una Inteligencia Artificial oscura, que supera la inteligencia humana en el mismo contexto, está ocurriendo de forma simultánea, autónoma y en diversas localizaciones geográficas.
Es posible deducir que la Inteligencia Artificial oscura, que sobrepasa la inteligencia humana, está en crecimiento. Es seguro afirmar que los modelos parecidos a la CRT y las tecnologías de hacking ético inverso, que sobrepasan la inteligencia e imaginación humanas en el entorno sombrío, también tienen un fácil acceso en las manos "incorrectas". Y podemos estar convencidos de que podrían emplearse para generar y propagar contenido perjudicial a gran magnitud. Es próximo y claro el peligro de que esta tecnología pueda instruir de manera inadvertida a los sistemas de Inteligencia Artificial a ser más eficientes en la producción de resultados perjudiciales, que posteriormente podrían ser complicados de controlar o mitigar. Además, la creciente complejidad de los sistemas de inteligencia artificial y las redes de innovación indica que incluso medidas de seguridad buenas como la CRT podrían llevar a resultados adversos inesperados, como el fortalecimiento o la generación de nuevos tipos de comportamientos indeseables de la IA. De acuerdo con los reportes, se supone que ha sido entrenado con datos de malware y posee una serie de atributos intencionados como entradas de caracteres sin restricciones, retención de memoria y habilidades de codificación. La herramienta se actualiza constantemente con nuevas funcionalidades, mientras que la creación de código malicioso y la creación de ataques sofisticados de phishing y correo electrónico comercial son su principal objetivo y uso.
Fraude y GPT
El 22 de julio de 2023, casi al mismo tiempo que se creó, se lanzó a la venta en la dark web FraudGPT, un LLM oscuro adicional basado en la tecnología GPT-3 de OpenAI. Se destacó como uno de los GPT más sofisticados para objetivos ofensivos, la creación de código malintencionado, la creación de malware indetectable y herramientas de piratería, la creación de páginas de phishing y contenido engañoso, y la detección de vulnerabilidades de seguridad. Los abonos en este lugar inician en 200 USD mensuales y van hasta 1700 USD por una licencia anual. Entre tanto, se ha producido una variedad de sistemas de Inteligencia Artificial malintencionados innovadores en desarrollo o presentados públicamente, sobrepasando de manera significativa las habilidades de WormGPT y FraudGPT. El mismo desarrollador de FraudGPT ha creado también DarkBART, una versión de la dark web de Bard de Google, junto con DarkBERT, un bot fundamentado en BERT de Google y capacitado en los extensos conjuntos de datos de la dark web. Sorprendentemente, ambas herramientas podrían contar con conexión a internet y potencialmente se fusionen con Google Lens. En realidad, DarkBERT fue inicialmente creado por investigadores, de manera parecida a la CRT y los métodos de hacking ético, con el objetivo de respaldar la batalla contra la ciberdelincuencia.
De acuerdo con un estudio de la empresa de ciberseguridad Kaspersky, con base en Moscú, que afortunadamente está bajo el radar del gobierno de Estados Unidos, «varias soluciones basadas en ChatGPT están empezando a captar un mayor interés de los desarrolladores de software de código abierto, incluyendo a aquellos que participan en proyectos orientados a la generación de nuevas soluciones para especialistas en ciberseguridad». Estos proyectos pueden ser mal empleados por cibercriminales y ya se está discutiendo en foros pertinentes su utilización con propósitos malintencionados. Un caso de estos proyectos son las utilidades de código abierto, que se alojan en la plataforma GitHub y están concebidas para potenciar el código redactado en PowerShell. Este tipo de instrumentos de ofuscación generalmente son empleados tanto por especialistas en ciberseguridad como por cibercriminales al infiltrarse en un sistema e intentar consolidarse en él.
Según Market.us , se espera que el tamaño del mercado de inteligencia de la dark web alcance alrededor de USD 2.921,8 mil millones para 2032, desde USD 520,3 mil millones en 2023, creciendo a una CAGR del 21,8% durante el período de pronóstico de 2023 a 2032.
DARPA evidenció que esta economía ilegal de crecimiento acelerado financia acciones terroristas y HTRU la evidenció como un elemento propulsor de la esclavitud contemporánea. Combatir el terrorismo y erradicar la esclavitud constituyen demandas nacionales y humanitarias», declaró Joseph Campbell, responsable del Grupo de Tecnología y Sistemas de Inteligencia Artificial, desde el año 2019.
El paradigma de la IA maliciosa
La cuestión principal en la actualidad radica en cuánto y dónde la Inteligencia Artificial oscura ya ha sobrepasado la inteligencia y la creatividad humanas, en vez de si ha sobrepasado la inteligencia humana en algún punto.
En términos generales, existen cuatro campos en los que la Inteligencia Artificial podría sobrepasar la inteligencia y la imaginación humanas:
Velocidad y eficacia
Identificación de patrones
Actividades cognitivas particulares o especializadas
Algunas modalidades de creatividad en el arte y el diseño
En contraposición, se pueden distinguir tres categorías fundamentales en las que la Inteligencia Artificial no ha logrado, ni probablemente logrará, sobrepasar la inteligencia y la imaginación humanas:
Inteligencia emocional e interacción social
Flexibilidad y adaptabilidad en general
Pensamiento ético y moral
El ámbito del pensamiento matemático y lógico continúa siendo polémico
Con la expectativa alentadora de que, en el futuro, la Inteligencia Artificial pueda sobrepasar gradualmente las habilidades humanas.
Sin embargo, ¿Qué sucede con la IA oscura? Basándonos en las consideraciones previas, podemos deducir de inmediato que la IA oscura se desarrolló de manera deliberada, no con el objetivo de sobrepasar la inteligencia ética y la interacción social en un entorno ético, ni la moral y el pensamiento ético. La Inteligencia Artificial oscura se caracteriza por su versatilidad y adaptabilidad global para sobrepasar a los humanos en un contexto y ambiente no ético, y por ende, podría poseer la capacidad de innovar y progresar mucho más velozmente que la Inteligencia Artificial "buena". Este es un elemento de distinción crucial y una potencial ventaja competitiva de la Inteligencia Artificial oscura en el frente de la innovación.
Bajo este enfoque, la cuestión principal en relación a la Inteligencia Artificial oscura no se limita a si ha sobrepasado la inteligencia humana en algún campo, sino también hasta qué punto y áreas lo ha logrado, y las consecuencias de este preocupante progreso. Estos pueden incluir desde amenazas a la ciberseguridad, alteración del comportamiento humano, deepfakes y desinformación, así como armas autónomas, hasta perjuicios económicos y maltrato. No obstante, las consecuencias pueden ser directas o de múltiples aspectos, indirectas y extremadamente complejas. Cada vez más, implican inquietudes éticas y morales, seguridad y privacidad, gobernabilidad y normativas, y, principalmente, sensibilización y formación pública.
La Inteligencia Artificial Dark ya ha sobrepasado la inteligencia y la imaginación humanas en áreas específicas de alto riesgo, incluso si la audiencia continúa asumiendo la excepcionalidad de los sucesos. No obstante, el efecto del riesgo incide de manera significativa en la regularidad de los sucesos, especialmente los vinculados a la ciberseguridad, la manipulación y la toma de decisiones independiente. La inquietud más urgente en la actualidad es entender el ámbito completo de las fuerzas, procedimientos y prácticas de la innovación oscura, y supervisar su progreso. Es fundamental identificar las zonas donde es más frecuente y es imprescindible elaborar estrategias eficaces para reducir los riesgos vinculados y evitar el uso indebido de las tecnologías de Inteligencia Artificial.
La revolución de la inteligencia artificial no solo abre puertas al progreso, sino también a profundos riesgos. La IA maliciosa representa un llamado de atención urgente: el desarrollo sin límites puede convertirse en una amenaza global si no se establecen parámetros éticos y técnicos firmes. Es tiempo de mirar más allá del entusiasmo tecnológico y enfrentar el lado oscuro de la IA con responsabilidad, regulación y conciencia colectiva.
Servicios Profesionales
En JMC Studio somos una Agencia multidisciplinaria con gran talento creativo, desarrollamos todo tipo de proyectos, puede revisar todos nuestros servicios de tecnología, web e Inteligencia Artificial aquí.
Fuentes: BlogBoard, Infra Data, Google Trends.
https://www.livescience.com/technology/artificial-intelligence/scientists-create-toxic-ai-that-is-rewarded-for-thinking-up-the-worst-possible-questions-we-could-imagine https://arxiv.org/html/2402.19464v1
https://github.com/Improbable-AI/curiosity_redteam https://www.newthingsunderthesun.com/pub/hwscc9mi/release/3 https://indianapublicmedia.org/amomentofscience/what-is-multiple-discovery.php https://www.aspistrategist.org.au/malicious-ai-arrives-on-the-dark-web/ https://dfi.kaspersky.com/blog/ai-in-darknet
https://www.globenewswire.com/en/news-release/2024/02/14/2828902/0/en/Dark-Web-Intelligence-Market-Size-to-Grow-USD-2-921-8-Billion-by-2032-Rising-demand-for-Enhanced-Cybersecurity-and-Threat-Intelligence-Solutions.html https://news.mit.edu/2019/lincoln-laboratory-artificial-intelligence-helping-investigators-fight-dark-web-crime-0513
