Tulu-3 workflow

RAG lokala euskaraz Tülu 3 erabiliz

Azken hilabeteetan LLM eredu lokal eta askeak asko hobetu dira, eta horietako batzuk euskaraz ere nahiko ondo moldatzen dira. Horien artean, Tülu-3 70B nabarmendu nahi nuke, kuantizatutako bertsioa erabilita (q4_K_M) euskaraz emaitza onak ematen baititu. Latxa chat edo instrukzio eredua argitaratu arte, ziurrenik aukera onena da euskarazko elkarrizketak izateko edo testuak sortzeko. RAG sistema martxan jartzeko osagaiak RAG (Retrieval Augmented Generation) sistema bat martxan jartzeko behar ditugun osagaiak: ...

otsaila 9, 2024