OpenAI, un líder en el desarrollo de IA, ha publicado un informe anual que detalla cómo los malos actores han intentado abusar de sus modelos de IA. En este informe, OpenAI menciona que la investigación en IA es un campo en constante evolución y que cada incidente identificado ayuda a mejorar sus defensas.
El informe destaca diez casos de abusos ocurridos en el último año, de los cuales cuatro parecen estar asociados con actores en China. Uno de los casos involucra cuentas de ChatGPT que generaban publicaciones en redes sociales en varios idiomas con el objetivo de dar la impresión de un compromiso humano auténtico sobre temas de interés geoestratégico para China, como Taiwán y temas relacionados con la USAID. Estas publicaciones eran parte de una estrategia para atraer atención sobre asuntos que beneficiaban a los intereses políticos de China.
Otro abuso relacionado con China, según el informe, consistía en el uso de ChatGPT para realizar actividades cibernéticas malintencionadas, como probar contraseñas de forma masiva en un intento de acceder a cuentas en línea y obtener información relacionada con la industria militar de Estados Unidos. El Ministerio de Relaciones Exteriores de China ha negado su implicación en estos incidentes, según Reuters. Sin embargo, el informe también menciona que otros usos peligrosos de IA estaban vinculados a actores en países como Rusia, Irán y Camboya.
El informe sugiere que los modelos generativos de texto, como ChatGPT, son solo una parte de un espectro más amplio de desinformación impulsada por IA. Por ejemplo, nuevos modelos de texto a video, como el de Google, pueden crear videos realistas a partir de descripciones en lenguaje natural, y modelos de texto a voz son capaces de generar voces humanas sin esfuerzo. A pesar de que los desarrolladores generalmente implementan medidas de seguridad antes de lanzar sus modelos, los actores malintencionados están innovando constantemente en sus métodos de abuso.
Este juego de gato y ratón entre desarrolladores de IA y actores maliciosos es complicado por la falta de políticas federales robustas para la supervisión de tecnologías de inteligencia artificial en Estados Unidos. Esto significa que la tecnología puede ser mal utilizada sin una respuesta contundente de las autoridades.
Las preocupaciones en torno a la IA generativa no se limitan a su potencial para difundir desinformación. Las herramientas pueden ser utilizadas en la creación de contenido engañoso que es difícil de distinguir del contenido auténtico. Los casos presentados en el informe de OpenAI deben ser vistos como una advertencia sobre el futuro del uso de la inteligencia artificial en la comunicación y la información.
En conclusión, el auge de la inteligencia artificial generativa presenta tanto oportunidades como riesgos. Las herramientas están siendo utilizadas para mejorar la productividad y la creatividad, pero también representan una amenaza significativa para la integridad de la información. La continua evolución de la tecnología y la falta de regulación efectiva plantean desafíos considerables que deben ser abordados por empresas y responsables políticos para mitigar el uso indebido y los peligros asociados con la IA.
Enlace de la fuente, haz clic para tener más información