Crea un modelo de lenguaje en tus chats de WhatsApp

Sin lugar a dudas, los chatbots han transformado nuestra interacción con las plataformas digitales. A pesar de los impresionantes avances en las capacidades de los modelos de lenguaje subyacentes para manejar tareas complejas, la experiencia del usuario a menudo se queda corta y se siente impersonal y distante.

Para que las conversaciones sean más identificables, imaginé un chatbot que pudiera emular mi estilo de escritura informal, similar a enviar mensajes de texto a un amigo por WhatsApp.

En este artículo, lo guiaré a través de mi viaje para construir un (pequeño) modelo de lenguaje que genere conversaciones sintéticas, utilizando mis mensajes de chat de WhatsApp como datos de entrada. A lo largo del camino, intento desentrañar el funcionamiento interno de la arquitectura GPT de una manera visual y, con suerte, digerible, complementada con la implementación real de Python. Puedes encontrar el proyecto completo en mi GitHub.

Nota:La clase de modelo en sí está dividida en grandes fragmentos tomados de la serie de videos de Andrej Karpathy y adaptados a mis necesidades. Puedo recomendar ampliamente sus tutoriales.