Izveidojiet valodas modeli savās WhatsApp tērzēšanas sarunās

Tērzēšanas roboti nenoliedzami ir pārveidojuši mūsu mijiedarbību ar digitālajām platformām. Neraugoties uz iespaidīgajiem sasniegumiem pamatā esošo valodu modeļu spējās, lai veiktu sarežģītus uzdevumus, lietotāja pieredze bieži vien ir nepietiekama, jūtoties bezpersoniska un atdalīta.

Lai sarunas būtu salīdzināmākas, es iedomājos tērzēšanas robotu, kas varētu līdzināties manam ikdienas rakstīšanas stilam, kas līdzinās īsziņu sūtīšanai draugam, izmantojot WhatsApp.

Šajā rakstā es jums pastāstīšu, kā izveidot (mazu) valodas modeli, kas ģenerē sintētiskas sarunas, izmantojot manus WhatsApp tērzēšanas ziņojumus kā ievades datus. Pa ceļam es cenšos vizuāli un, cerams, sagremojamā veidā atšķetināt GPT arhitektūras iekšējo darbību, ko papildina faktiskā Python ieviešana. Pilnu projektu varat atrast manā GitHub.

Piezīme:Pati modeļu klase ir lielos gabalos, kas ņemti no Andreja Karpathy video sērijas un pielāgoti manām vajadzībām. Es varu ļoti ieteikt viņa apmācības.