Noticias

Jun 08, 2023

La gente está pirateando GPT

Las personas en Discord para el subreddit r/ChatGPT están publicitando OpenAI robado

Las personas en Discord para el subreddit r/ChatGPT están anunciando tokens API de OpenAI robados que han sido extraídos del código de otras personas, según registros de chat, capturas de pantalla y entrevistas. Las personas que usan las claves de API robadas pueden implementar GPT-4 mientras acumulan cargos de uso en la cuenta de OpenAI robada.

En un caso, alguien robó el acceso a una valiosa cuenta de OpenAI con un límite superior de $150,000 de uso y ahora ofrece ese acceso de forma gratuita a otros miembros, incluso a través de un sitio web y un segundo servidor Discord dedicado. Ese servidor tiene más de 500 miembros.

Las personas que deseen utilizar los modelos de lenguaje grande de OpenAI, como GPT-4, deben crear una cuenta con la empresa y asociar una tarjeta de crédito a la cuenta. OpenAI luego les da una clave API única que les permite acceder a las herramientas de OpenAI. Por ejemplo, un desarrollador de aplicaciones puede usar código para implementar ChatGPT u otros modelos de lenguaje en su aplicación. La clave API les da acceso a esas herramientas y OpenAI cobra una tarifa según el uso: "¡Recuerde que su clave API es un secreto! No la comparta con otros ni la exponga en ningún código del lado del cliente (navegadores, aplicaciones), OpenAI advierte a los usuarios. Si la clave es robada o expuesta, cualquiera puede comenzar a acumular cargos en la cuenta de esa persona.

El método por el cual el pirata obtuvo acceso destaca una consideración de seguridad que los usuarios de pago de OpenAI deben tener en cuenta. La persona dice que crearon un sitio web que permite a las personas colaborar en proyectos de codificación, según las capturas de pantalla. En muchos casos, parece probable que los autores del código alojado en el sitio, llamado Replit, no se dieron cuenta de que habían incluido sus claves API de OpenAI en su código de acceso público, exponiéndolos a terceros.

"Mi cuenta todavía no está prohibida después de hacer cosas locas como esta", escribió el miércoles el pirata, que se hace llamar Discodtehe, en el servidor de Discord r/ChatGPT.

¿Sabes algo más sobre cómo las personas usan la IA de manera maliciosa? Nos encantaría saber de usted. Con un teléfono o una computadora que no sea del trabajo, puede comunicarse con Joseph Cox de manera segura en Signal al +44 20 8133 5190, Wickr en josephcox o enviar un correo electrónico a [email protected].

En los últimos días, el uso de Discodtehe de al menos una clave API de OpenAI robada parece haber aumentado. Compartieron varias capturas de pantalla del aumento del uso de la cuenta con el tiempo. Una captura de pantalla reciente muestra el uso este mes de $1,039.37 de $150,000.

"Si tenemos suficientes personas, es posible que no nos prohíban a todos", escribió Discodtehe el miércoles.

Sin embargo, Discodtehe parece haber estado extrayendo claves API expuestas durante más tiempo. En un mensaje de Discord de marzo, escribieron "el otro día raspé repl.it y encontré más de 1000 claves openai api en funcionamiento".

"Ni siquiera hice un raspado completo, solo miré aproximadamente la mitad de los resultados", agregaron.

Replit es una herramienta en línea para escribir código de forma colaborativa. Los usuarios pueden hacer proyectos, lo que Replit llama "Repls", que son públicos por defecto, dijo a Motherboard en un correo electrónico Cecilia Ziniti, consejera general y jefa de desarrollo comercial de Replit. Replit ofrece un mecanismo para manejar claves API llamado Secrets, agregó Ziniti.

"Algunas personas introducen accidentalmente tokens de código duro en el código de su Repl, en lugar de almacenarlos en Secrets. En última instancia, los usuarios son responsables de salvaguardar sus propios tokens y no deberían almacenarlos en código público", dijo Ziniti.

Ziniti dijo que la compañía escanea proyectos en busca de tipos de claves de API populares, como las de Github. Después de que Motherboard le alertara sobre este nuevo problema de clave de API, Ziniti dijo: "En el futuro, Replit revisará nuestro sistema de escaneo de tokens para garantizar que los usuarios sean advertidos sobre la exposición accidental de tokens ChatGPT".

"Si tenemos suficientes personas, es posible que no nos prohíban a todos".

Un miembro de la comunidad de ChatGPT le dijo a Motherboard que Discodtehe "definitivamente debería detenerse".

"Esta es una industria en constante crecimiento y, por supuesto, habrá delitos tarde o temprano, pero estoy sorprendido de lo rápido que se ha convertido en un problema. El robo de cuentas corporativas es malo, sin duda, pero personalmente estoy más preocupados por la forma en que estos tipos están dispuestos a robar a las personas normales que publicaron sus llaves por error", agregaron. Motherboard otorgó a la persona el anonimato para que no enfrentara represalias de otros miembros de la comunidad.

Una captura de pantalla del sitio que ofrece acceso gratuito a GPT-4. Imagen: Placa base.

Discodtehe fue un paso más allá de solo raspar tokens. Otro servidor de Discord, llamado ChimeraGPT, ofrece "acceso gratuito a GPT-4 y GPT-3.5-turbo", según los registros de chat vistos por Motherboard. Discodtehe dijo en otro mensaje que ChimeraGPT está utilizando la misma organización que la clave API robada discutida en el servidor r/ChatGPT Discord. Motherboard encontró un repositorio de Github que recomienda usar ChimeraGPT para obtener una clave de API gratuita. Al momento de escribir este servidor tiene 531 miembros.

Discodtehe dijo en otro mensaje que también crearon un sitio web donde las personas pueden solicitar acceso gratuito a la API de OpenAI. (Irónicamente, este sitio también está alojado en Replit; poco antes de la publicación, el sitio se volvió inaccesible).

El sitio les dice a los usuarios que ingresen su dirección de correo electrónico, hagan clic en un enlace enviado por OpenAI y acepten la invitación, establezcan su dirección de facturación predeterminada en la organización "weeeeee" que parece estar usando Discodtehe.

"Disfrute del acceso gratuito a la API gpt-4", concluye el sitio web. El miércoles, la organización vinculada a la cuenta de OpenAI tenía 27 miembros, según una captura de pantalla. Para el jueves, ese número había aumentado a 40, según otro.

"Mi cuenta [cuenta] todavía no está prohibida después de hacer locuras como esta".

Discodtehe no respondió a una solicitud de comentarios. Un administrador del servidor r/ChatGPT Discord llamado "Dawn" le dijo a Motherboard que sus mods voluntarios no pueden verificar todos los proyectos y "estamos emitiendo una prohibición para el usuario".

Un portavoz de OpenAI le dijo a Motherboard en un correo electrónico que "realizamos escaneos automáticos de grandes repositorios abiertos y revocamos cualquier clave de OpenAI descubierta. Aconsejamos a los usuarios que no revelen su clave de API después de generarla. Si los usuarios creen que su clave de API puede haber sido expuesta , les instamos a rotar su clave de inmediato".

Sin embargo, el miembro de la comunidad dijo: "Creo que OpenAI también tiene un poco de culpa aquí por cómo funciona su proceso de autenticación".

"No escuchas que el acceso API a las cuentas de Google Cloud sea robado de esta manera porque Google tiene mejores procedimientos de autenticación. Espero que la integración de OpenAI con Microsoft brinde una mejor seguridad para los usuarios en el futuro", dijeron.

Discodtehe se refirió al uso como "simplemente tomar prestado" en otro mensaje. Escribieron que el uso es "solo citar, aún no se han pagado facturas".

"Al final, es probable que OpenAI pague la factura", dijeron.

OpenAI no respondió de inmediato a una pregunta de seguimiento sobre si pagaría la factura.

Suscríbete a nuestro podcast de ciberseguridad, CYBER. Suscríbete a nuestro canal de Twitch.

Al registrarse, acepta los Términos de uso y la Política de privacidad y recibe comunicaciones electrónicas de Vice Media Group, que pueden incluir promociones de marketing, anuncios y contenido patrocinado.