Martes, OpenAI anuncio que está experimentando agregando una forma de memoria a largo plazo a ChatGPT que le permitirá recordar detalles entre conversaciones. Puedes pedirle a ChatGPT que recuerde algo, ver qué recuerda y pedirle que lo olvide. Actualmente, solo está disponible para una pequeña cantidad de usuarios de ChatGPT con fines de prueba.

Hasta ahora, los modelos de lenguaje grandes normalmente usaban dos tipos de memoria: memoria integrada en el modelo de IA durante el proceso de entrenamiento (antes de la implementación) y memoria contextual (historial de conversaciones) que persiste durante toda la sesión. Por lo general, ChatGPT olvida lo que le dijiste en una conversación una vez que inicias una nueva sesión.

Varios proyectos han intentado dar a los LLM una memoria que persiste más allá de una ventana emergente. (La ventana emergente es el límite estricto en la cantidad de tokens que el LLM puede procesar a la vez). Las técnicas incluyen gestión dinámica de la historia del contextocomprimiendo el historial anterior a través de un resumen, enlaces a bases de datos vectoriales que almacenan información externamente, o simplemente inyectando información periódicamente en un mensaje del sistema (las instrucciones que ChatGPT recibe al comienzo de cada conversación).

OpenAI no ha explicado qué técnica está utilizando aquí, pero la implementación nos recuerda las Instrucciones personalizadas, una característica que OpenAI introdujo en julio de 2023 que permite a los usuarios agregar adiciones personalizadas al mensaje del sistema ChatGPT para cambiar su comportamiento.

Las posibles aplicaciones para la función de memoria proporcionada por OpenAI incluyen explicar cómo prefiere que se formatee las notas de su reunión, decirle que tiene una cafetería y hacer que ChatGPT asuma que esto es de lo que está hablando, reteniendo información sobre su pequeño que ama las medusas. Puede generar gráficos relevantes y recordar preferencias para diseñar planes de lecciones de jardín de infantes.

Además, OpenAI dice que Memories puede ayudar a los suscriptores de ChatGPT Enterprise y Team a trabajar mejor juntos, ya que Shared Team Memories puede recordar preferencias de formato de documentos específicos o marcos de programación utilizados por su equipo. Y OpenAI planea traer memorias a los GPT pronto, y cada GPT tendrá sus propias capacidades de memoria aisladas.

Control de memoria

Obviamente, cualquier tendencia a memorizar información conlleva implicaciones para la privacidad. Ya deberías saber que enviar información a OpenAI para su procesamiento en servidores remotos introduce la posibilidad de fugas de privacidad y que OpenAI entrena modelos de IA con información proporcionada por el usuario de forma predeterminada, a menos que el historial de chat esté desactivado o si estás utilizando una empresa o Teams. cuenta.

En la misma línea, OpenAI afirma que sus recuerdos guardados también están sujetos al uso de capacitación de OpenAI a menos que cumpla con los criterios enumerados anteriormente. Sin embargo, la función de memoria se puede desactivar por completo. Además, la empresa afirma: “Tomamos medidas para evaluar y mitigar los prejuicios y evitar que ChatGPT recuerde de forma proactiva información confidencial, como su información de salud, a menos que usted lo solicite explícitamente. »

Los usuarios también podrán controlar lo que ChatGPT recuerda mediante una interfaz de «Administrar memoria» que enumera los elementos de la memoria. «Los recuerdos de ChatGPT evolucionan con tus interacciones y no están vinculados a conversaciones específicas», explica OpenAI. «Eliminar un chat no borra sus recuerdos; hay que borrar el recuerdo en sí».

Las funciones de memoria de ChatGPT no están disponibles actualmente para todas las cuentas de ChatGPT, por lo que aún no las hemos probado. Hasta ahora, el acceso durante este período de prueba parece ser impredecible en todas las cuentas ChatGPT (gratuitas y de pago). «Lo implementaremos esta semana para una pequeña parte de los usuarios de Free ChatGPT y Plus para descubrir qué tan útil es», escribe OpenAI. «Pronto compartiremos nuestros planes para una implementación más amplia».