Sukurkite kalbos modelį savo WhatsApp pokalbiuose

Pokalbių robotai neabejotinai pakeitė mūsų sąveiką su skaitmeninėmis platformomis. Nepaisant įspūdingų pagrindinių kalbos modelių gebėjimų atlikti sudėtingas užduotis pažangos, vartotojo patirtis dažnai būna menka, jaučiamas beasmenis ir atskirtas.

Kad pokalbiai būtų labiau susieti, įsivaizdavau pokalbių robotą, kuris galėtų pamėgdžioti mano įprastą rašymo stilių, panašų į žinučių siuntimą draugui per WhatsApp.

Šiame straipsnyje paaiškinsiu, kaip sukurti (mažą) kalbos modelį, generuojantį sintetinius pokalbius, naudojant mano WhatsApp pokalbių pranešimus kaip įvesties duomenis. Pakeliui stengiuosi vizualiai ir, tikiuosi, suprantamu būdu atskleisti vidinį GPT architektūros veikimą, kurį papildo tikras Python diegimas. Visą projektą galite rasti mano „GitHub“.

Pastaba:Pati modelių klasė yra dideliais gabalais, paimta iš Andrej Karpathy vaizdo įrašų serijos ir pritaikyta mano poreikiams. Galiu labai rekomenduoti jo pamokas.