Offline LLM HW

Raspberry Pi začíná prodávat akcelerátor AI HAT+ 2, který utáhne jazykové modely, multimodální AI i jednoduché agenty



Superpočítač do kapsy za sto tisíc. Co v praxi dokáže Nvidia DGX Spark



Raspberry Pi AI HAT+ 2

https://rpishop.cz/610723/raspberry-pi-ai-hat-2/

Podporované modely:

Llama-3.2-3B-Instruct

QWEN2.5-VL-3B

ASR (whisper-base)

Hailo-Apps v25.10.0 Released ( Raspberry Pi Trixie OS support)
https://community.hailo.ai/t/llama-3-2-3b-instruct-model/18866

https://community.hailo.ai/tag/raspberry-pi


Hailo RT 5.3.0/Hailo Apps/Whisper Medium/Whisper Language Bug
https://community.hailo.ai/t/hailo-rt-5-3-0-hailo-apps-whisper-medium-whisper-language-bug/19080

Automatic Speech Recognition Pipeline with Whisper model

YouTube

A GPU-powered Pi for more efficient AI?

Jeff Geerling

https://www.youtube.com/watch?v=AyR7iCS7gNI

I Gave My Raspberry Pi 5 NAS an AI Brain!
Mayukh Builds 
https://www.youtube.com/watch?v=upUtCCpO_0w

#Nextcloud #Tailscale #Ollama

New
Raspberry Pi nyní může spouštět místní modely AI, které skutečně fungují

www.howtogeek.com

ai llm hw TOPS