Ты должен был бороться со злом, а не примыкать к нему

[zHz00]

-- Давай заведём нейронку!
-- Но у нас уже есть нейронка дома!

Нейронка дома: Яндекс.Алиса.

(добился работы сокращённой llama3.1 на видяхе)

Comments

[Xersareeth]

Эй, а чо так мало подробностей? Интересно же!

Какой квантование, сколько vram, сколько контекст, каким фреймворком запускаешь? На каком языке с ней общаешься? Планируешь ли заниматься дообучением или просто вопросики задавать?

[zHz00]

Xersareeth, думаю, я отдельно напишу. Основная проблема была в том, что у меня виндоуз 7, и это принципиальная позиция. Я пересобрал ллама.цпп.

[RetXiRT suiR@ttig@$]

Алиса - ИИ (искусственный идиот).

[zHz00]

RetXiRT suiR@ttig@$, в Алисе много лет вообще не было нейронки, там использовалась другая технология. Сейчас вроде есть, но народ жалуется, что она всех сразу в поиск отправляет. Сам не пользовался.

[RetXiRT suiR@ttig@$]

Это как-то меняет то, что я сказал?