OpenAI advirtió sobre un aumento en el uso de su plataforma basada en inteligencia artificial ChatGPT por parte de actores que buscan influir en procesos electorales y reveló que desde mayo desmanteló "más de 20 operaciones y redes de influencia engañosa" en todo el mundo.
"Cada vez más actores malintencionados están utilizando el sistema de generación de texto para propagar desinformación y manipular decisiones políticas", señaló la compañía esta semana en un comunicado.
Entre las acciones que pudo frenar están desde la depuración de malware hasta la creación de contenido para redes sociales mediante perfiles falsos. En casos relacionados con elecciones en Estados Unidos, Ruanda, India y la Unión Europea, las redes involucradas no lograron atraer "grandes audiencias ni viralidad".
La compañía aseguró que la capacidad de generar contenido creíble y difícil de distinguir del creado por humanos facilita que actores cibernéticos ejecuten campañas masivas de desinformación sin la necesidad de recurrir a los medios tradicionales. Este escenario ha incrementado la vigilancia por parte de expertos en seguridad y organismos regulatorios.
La respuesta de OpenAI
En respuesta a estos riesgos, OpenAI indicó que empezó a implementar una serie de medidas para frenar el uso indebido de su tecnología. La empresa señaló que está "introduciendo barreras técnicas para detectar y prevenir la creación de contenido destinado a manipular eventos políticos".
Además, la compañía informó que colabora con agencias gubernamentales y expertos en ciberseguridad para desarrollar estrategias que ayuden a proteger los procesos democráticos.
El informe de OpenAI también menciona que la empresa ha reforzado su cooperación con gobiernos y otras compañías tecnológicas para hacer frente a los intentos de intervención electoral. La colaboración se centra en el desarrollo de sistemas de monitoreo y respuesta ante posibles abusos de la inteligencia artificial en el ámbito político.
