Llm

Kimu izeneko hizkuntza eredua argitaratu berri du Orai-k. Gemma 2 ereduan oinarrituta, 2B eta 9B parametro dituzten ereduak sortu dituzte. Oinarrizko ereduari euskaraz egiteko beharrezko jakintza txertatzea lortu dute. Kimu-ko bi ereduak GGUF formatura bihurtu ditut eta Hugging Face biltegian jarri ditut eskuragarri. Modu honetara, Kimu eredua Llama.cpp edo Ollama bezalako aplikazioetan erabiltzea posible da. Aldi berean, @urtzai-k eredu hauek Ollama-ko eredu katalogoan argitaratu ditu, Ollama bidez erabilera errazagoa eginez. ...

Azken hilabeteetan LLM eredu lokal eta askeak asko hobetu dira, eta horietako batzuk euskaraz ere nahiko ondo moldatzen dira. Horien artean, Tülu-3 70B nabarmendu nahi nuke, kuantizatutako bertsioa erabilita (q4_K_M) euskaraz emaitza onak ematen baititu. Latxa chat edo instrukzio eredua argitaratu arte, ziurrenik aukera onena da euskarazko elkarrizketak izateko edo testuak sortzeko. RAG sistema martxan jartzeko osagaiak RAG (Retrieval Augmented Generation) sistema bat martxan jartzeko behar ditugun osagaiak: ...