Lidé, bez kterých by lokální AI nebyla, seřazení podle toho, jak moc na nich celá scéna stojí.
Zakladatelé: bez nich by nic nevzniklo
1. Ashish Vaswani a spoluautoři Attention Is All You Need (2017)
Navrhli architekturu Transformer, na které stojí prakticky každé dnešní LLM, od Llamy po Mistral.
2. Yann LeCun (Meta AI / NYU)
V Metě prosazoval vydávání open-weight modelů. Llama (únor 2023) byla první silný model s dostupnými váhami a lokální scéna vznikla během několika týdnů po ní. Váhy Llamy 1 se ven dostaly hlavně únikem z omezeného výzkumného přístupu.
3. Georgi Gerganov (llama.cpp, whisper.cpp, ggml/GGUF)
llama.cpp (březen 2023) jako první spustilo Llamu použitelně na CPU a běžném hardwaru, včetně kvantizace. Jeho formát GGUF je dnes standardem pro distribuci lokálních modelů.
Kritičtí urychlovači
4. Tim Dettmers (bitsandbytes, LLM.int8(), QLoRA)
Díky jeho 8bitové a 4bitové kvantizaci se modely vejdou do VRAM herních grafik a dají se na nich i dotrénovat.
5. Clem Delangue (Hugging Face)
Hugging Face je hlavní infrastruktura pro sdílení vah, datasetů a leaderboardů a zároveň „Mekka“ celého hnutí.
6. Tým Stanford Alpaca (Taori, Gulrajani, Zhang, Dubois, Li, Guestrin, Liang, Hashimoto)
Ukázali, že z Llamy jde instrukčním laděním za zhruba 600 USD udělat chatbota podobného ChatGPT.
7. Arthur Mensch (Mistral AI)
Mistral 7B vyšel pod licencí Apache 2.0 a porazil větší modely. Mixtral zpopularizoval architekturu MoE pro lokální nasazení.
8. Tri Dao (FlashAttention, Mamba s Albertem Gu)
FlashAttention výrazně zrychlila výpočet attention na GPU a snížila jeho paměťové nároky. Spolu s Albertem Gu vytvořil Mamba (SSM), alternativu k Transformeru s konstantní pamětí stavu místo rostoucí KV cache.
Nástroje a modely
9. Jeffrey Morgan (Ollama)
Spoluzakladatel Ollamy (s Michaelem Chiangem). Ollama zjednodušila spuštění lokálního modelu na jeden příkaz.
10. Daniel a Michael Han (Unsloth)
Unsloth výrazně zrychluje fine-tuning na jediné GPU a snižuje jeho paměťové nároky.
11. Ettore Di Giacinto (LocalAI)
LocalAI je open-source náhrada OpenAI API (text, audio, obrázky) pro provoz na vlastní infrastruktuře.
12. Teknium (Nous Research)
Stojí za modely Hermes / OpenHermes, které patřily k nejpoužívanějším komunitním fine-tunům.
13. Jon Durbin (Airoboros)
Průkopník syntetických instrukčních dat pro trénink open-weight modelů nezávislými vývojáři.
14. Eric Hartford (WizardLM-Uncensored, Dolphin)
Autor prvních populárních necenzurovaných modelů a tahoun myšlenky uživatelem kontrolované AI.
15. Arcee AI a Charles Goddard (mergekit)
Prosazují malé modely (SLM) a slučování modelů. Mergekit se stal standardním nástrojem komunity.
Komunita a popularizace
16. Moderátoři r/LocalLLaMA
Udržují hlavní informační uzel oboru, kde se potkávají inženýři s nadšenci.
17. Andrej Karpathy (llama2.c, llm.c)
Svými výukovými projekty ukazuje, jak LLM trénovat a spouštět od nuly v čistém C.
18. Nathan Lambert (Interconnects / AI2)
Výzkumník RLHF a autor newsletteru Interconnects, který analyzuje open-source AI a její politiku.
19. Alex Volkov (ThursdAI, Weights & Biases)
Každý týden mapuje novinky v open-source modelech.
20. Matthew Berman (YouTube)
Testuje nové open-source modely na reálných úlohách a ukazuje, jak je provozovat doma.
21. TechnoTim (YouTube)
Ukazuje lokální LLM v homelabu: Docker, vlastní servery, Kubernetes.
22. Prompt Engineering (YouTube)
Praktické návody na lokální agenty, LM Studio, vLLM a ladění rychlosti v tokenech za sekundu.
23. Chris Hay (YouTube)
Srozumitelně vysvětluje firemní nasazení lokálních LLM a privátní RAG bez odesílání dat třetím stranám.
Mitko Vasilev
https://www.linkedin.com/in/mitkox/
https://github.com/mitkox
HOP — Harness Optimization Platform
https://github.com/mitkox/harness-opt
Privacy-First AI Delivery
AI Coding Factory
https://github.com/mitkox/ai-coding-factory
Žádné komentáře:
Okomentovat