ChatGPT puede generar malware mutante indetectable
La IA es uno de los inventos más importantes de los últimos años. Esta tecnología está destinada a cambiarlo todo para siempre, incluyendo cosas muy positivas entre una larga lista de usos. También, como no, tiene desventajas. Por ejemplo, se habla ya de profesiones que van a desaparecer por culpa de esta tecnología o también se ha conocido recientemente que ChatGPT puede generar malware mutante imposible de detectar.
Así pues, esta tecnología puede caer en malas manos y convertirse en algo realmente negativo para la humanidad.
Así es el malware mutante imposible de detectar creado por ChatGPT
Como ya hemos comentado, ChatGPT tiene usos muy positivos en buenas manos, de hecho nos ha dejado memes para el recuerdo gracias al ingenio de muchos usuarios. Sin embargo, también puede ser utilizado para el mal más temido. Un grupo de investigadores de nuevas tecnologías han descubierto una asombrosa capacidad de ChatGPT para generar malware mutante o polimórfico que es imposible de detectar por el protocolo conocido como «Endpoint detection and response» (EDR) en inglés.
La mayoría de modelos de lenguaje han sido diseñados con filtros para dificultar la creación de malware. De hecho, ChatGPT-4 es capaz de filtrar hasta un 80% más de contenido negativo o dañino de lo que era capaz ChatGPT-3. Sin embargo, si los hackers se las ingenian es posible sortear estos límites.
Varias empresas de ciberseguridad han sido capaces de demostrar en sus últimos estudios la facilidad con la que estos scripts pueden ser creados por ChatGPT.
Esto supone un riesgo para la seguridad de prácticamente todo internet ya que se puede haber hecho uso hasta ahora de esta vulnerabilidad.
Este código es capaz de evadir cualquier protocolo de prevención frente al malware, lo que ha generado bastantes problemas. Entendemos que es una laguna que tarde o temprano se acabará arreglando por parte de ChatGPT. Sin embargo, este problema podría extrapolarse a otras IA. ¿Qué ocurre si los hackers deciden entrenar a su propia IA con los modelos de lenguaje de código abierto que existen? Puede que en el futuro la lucha contra el mundo del hacking tenga a IA envueltas en ambos bandos de la guerra por la seguridad de internet.
Fuente: https://bit.ly/461LOwA
