OpenAI combatiendo el uso indebido de su plataforma en actividades maliciosas
OpenAI ha identificado y eliminado cuentas de usuarios en China y Corea del Norte que utilizaban su plataforma ChatGPT para actividades maliciosas como vigilancia, campañas de influencia y fraude. La empresa empleó herramientas impulsadas por IA y técnicas tradicionales de investigación para detectar estos casos.
OpenAI ha demostrado su compromiso en combatir el uso malicioso de su plataforma ChatGPT, al eliminar cuentas relacionadas con actividades fraudulentas y de vigilancia en China y Corea del Norte. La colaboración entre diversas industrias es esencial para mejorar la detección y la aplicación de medidas preventivas.
Uso indebido de ChatGPT en China
En China, se detectaron casos de uso indebido de ChatGPT para generar artículos en español criticando a Estados Unidos. Estos artículos, publicados bajo el nombre de una empresa china, fueron posteriormente recogidos por medios de comunicación en América Latina.
Fraude en Corea del Norte
Se identificaron usuarios con presuntos vínculos con Corea del Norte utilizando CVs generados por IA para aplicar a empleos en empresas occidentales, lo que generó preocupaciones sobre riesgos de fraude.
Operación de fraude financiero en Camboya
En Camboya, se descubrió una operación de fraude financiero que utilizaba ChatGPT para traducir y generar comentarios en las plataformas de redes sociales como X y Facebook.
Medidas de prevención de OpenAI
OpenAI enfatizó que sus políticas prohíben el uso de IA para la vigilancia y reprensión de libertades personales. La empresa no reveló cuántas cuentas fueron afectadas o el período durante el cual ocurrieron estas actividades.
Colaboración y futuras acciones
El informe subraya que compartir estos casos permitirá a las autoridades y a los actores de la industria prepararse frente a cómo China u otros regímenes autoritarios pueden aprovechar la IA contra Estados Unidos y países aliados. La colaboración entre empresas de IA, proveedores de alojamiento, plataformas de redes sociales e investigadores es crucial para mejorar la detección de amenazas y los esfuerzos de aplicación.
Fuente: macrumors.com
