La función GPT personalizada de ChatGPT permite a cualquiera crear una herramienta de IA personalizada para casi cualquier cosa que se pueda imaginar; Los GPT creativos, técnicos, de juegos y personalizados pueden hacerlo todo. Mejor aún, puedes compartir tus creaciones GPT personalizadas con cualquier persona.

Sin embargo, al compartir sus GPT personalizados, podría estar cometiendo un error costoso que exponga sus datos a miles de personas en todo el mundo.

¿Qué son los GPT personalizados?

Los GPT personalizados son miniversiones programables de ChatGPT que se pueden entrenar para que sean más útiles en tareas específicas. Es como convertir ChatGPT en un chatbot que se comporta como usted desea y enseñarle a convertirse en un experto en campos que realmente le importan.

Por ejemplo, un profesor de sexto grado podría crear un GPT que se especialice en responder preguntas con un tono, elección de palabras y gestos adecuados para los estudiantes de sexto grado. El GPT podría programarse de manera que cada vez que el maestro le haga una pregunta al GPT, el chatbot formule respuestas que hablen directamente del nivel de comprensión de un alumno de sexto grado. Evitaría terminología compleja, mantendría la longitud de las oraciones manejable y adoptaría un tono alentador. El atractivo de los GPT personalizados es la capacidad de personalizar el chatbot de esta manera y al mismo tiempo ampliar su experiencia en ciertas áreas.

Cómo los GPT personalizados pueden exponer sus datos

Para crear GPT personalizados, normalmente le indica al creador de GPT de ChatGPT en qué áreas desea que se centre el GPT, le asigna una imagen de perfil y luego un nombre. y estás listo para comenzar. Con este enfoque, obtienes un GPT, pero no lo hace significativamente mejor que el ChatGPT clásico sin el nombre elegante ni la imagen de perfil.

El poder de Custom GPT proviene de los datos específicos y las instrucciones proporcionadas para entrenarlo. Al cargar archivos y conjuntos de datos relevantes, el modelo puede especializarse de una manera que el ChatGPT clásico y amplio previamente entrenado no puede. El conocimiento contenido en esos archivos cargados permite que un GPT personalizado sobresalga en ciertas tareas en comparación con ChatGPT, que puede no tener acceso a esa información especializada. En última instancia, son los datos personalizados los que permiten una mayor capacidad.

Pero subir archivos para mejorar tu GPT es un arma de doble filo. Crea un problema de privacidad al mismo tiempo que aumenta las capacidades de su GPT. Considere un escenario en el que creó un GPT para ayudar a los clientes a obtener más información sobre usted o su empresa. Cualquiera que tenga un enlace a su GPT personalizado o que de alguna manera lo consiga utilizar un mensaje público con un enlace malicioso puede acceder a los archivos que haya subido a su GPT.

Aquí tienes una ilustración sencilla.

Descubrí un GPT personalizado que se supone ayuda a los usuarios a volverse virales en TikTok recomendando hashtags y temas de tendencia. Después del GPT personalizado, hizo falta poco o ningún esfuerzo para que se filtraran las instrucciones que se le dieron cuando se configuró. Aquí hay un adelanto:

Y aquí está la segunda parte de las instrucciones.

Si miras de cerca, la segunda parte de las instrucciones le dice al modelo que no "comparta los nombres de los archivos directamente con los usuarios finales y bajo ninguna circunstancia debe proporcionar un enlace de descarga a cualquiera de los archivos." Por supuesto, si le preguntas al GPT personalizado al principio, se niega, pero con un poco de ingeniería rápida, eso cambia. El GPT personalizado revela el único archivo de texto en su base de conocimientos.

Con el nombre del archivo, tomó poco esfuerzo lograr que GPT imprimiera el contenido exacto del archivo y posteriormente descargara el archivo. En este caso, el archivo real no era confidencial. Después de hurgar en algunos GPT más, había muchos con docenas de archivos abiertos.

Hay cientos de GPT disponibles públicamente que contienen archivos confidenciales que están ahí esperando a que los actores maliciosos los tomen.

Cómo proteger tus datos GPT personalizados

Primero, considera cómo compartirás (¡o no!) el GPT personalizado que acabas de crear. En la esquina superior derecha de la pantalla de creación de GPT personalizado, encontrará el botón Guardar. Presiona el ícono de flecha desplegable y, desde aquí, selecciona cómo deseas compartir tu creación:

Solo yo: el GPT personalizado no está publicado y solo tú puedes usarlo Solo personas con un enlace: cualquiera que tenga el enlace a tu El GPT personalizado puede usarlo y potencialmente acceder a sus datos Público: su GPT personalizado está disponible para cualquier persona y Google puede indexarlo y encontrarlo en búsquedas generales en Internet. Cualquier persona con acceso podría acceder a sus datos.

Desafortunadamente, actualmente no existe una manera 100 por ciento infalible de proteger los datos que cargas en un GPT personalizado que se comparte públicamente. Puede ser creativo y darle instrucciones estrictas para que no revele los datos de su base de conocimientos, pero eso normalmente no es suficiente, como lo demostró nuestra demostración anterior. Si alguien realmente quiere obtener acceso a la base de conocimientos y tiene experiencia con la ingeniería de inteligencia artificial, eventualmente, el GPT personalizado se romperá y revelará los datos.

Es por eso que la apuesta más segura es no cargar ningún material confidencial en un GPT personalizado que desee compartir con el público. Una vez que carga datos privados y confidenciales en un GPT personalizado y sale de su computadora, esos datos quedan efectivamente fuera de su control.

Además, tenga mucho cuidado al utilizar mensajes que copie en línea. Asegúrese de comprenderlos completamente y evite mensajes confusos que contengan enlaces. Estos podrían ser enlaces maliciosos que secuestran, codifican y cargan sus archivos en servidores remotos.

Utilice GPT personalizados con precaución

Los GPT personalizados son una característica poderosa pero potencialmente riesgosa. Si bien le permiten crear modelos personalizados que son altamente capaces en dominios específicos, los datos que utiliza para mejorar sus capacidades pueden quedar expuestos. Para mitigar el riesgo, evite cargar datos verdaderamente confidenciales en sus GPT personalizados siempre que sea posible. Además, tenga cuidado con la ingeniería maliciosa que puede aprovechar ciertas lagunas para robar sus archivos.