Hailo-10H KI-Beschleuniger mit einer Inferenzleistung von 40 TOPS (INT4).
Leistung für Computer-Vision-Modelle vergleichbar mit dem Raspberry Pi AI HAT+ (26 TOPS)
Führt generative KI-Modelle effizient mit 8 GB Onboard-RAM aus.
Vollständig in den Kamera-Software-Stack des Raspberry Pi integriert.
Entspricht der Raspberry Pi HAT+ Spezifikation
Entfesseln Sie generative KI auf Ihrem Raspberry Pi 5
Mit dem neuen neuronalen Netzwerkbeschleuniger Hailo-10H bietet der Raspberry Pi AI HAT+ 2 eine Inferenzleistung von 40 TOPS (INT4) und sorgt so dafür, dass generative KI-Workloads reibungslos auf dem Raspberry Pi 5 laufen. Da alle KI-Verarbeitungsprozesse lokal und ohne Netzwerkverbindung ausgeführt werden, arbeitet der AI HAT+ 2 zuverlässig und mit geringer Latenz und gewährleistet so die Privatsphäre, Sicherheit und Kosteneffizienz des cloudfreien KI-Computings, das wir mit dem ursprünglichen AI HAT+ eingeführt haben.
Im Gegensatz zu seinem Vorgänger verfügt der AI HAT+ 2 über 8 GB dedizierten On-Board-RAM, wodurch der Beschleuniger viel größere Modelle als bisher effizient verarbeiten kann. Zusammen mit einer aktualisierten Hardware-Architektur ermöglicht dies dem Hailo-10H-Chip die Beschleunigung großer Sprachmodelle (LLMs), Bild-Sprach-Modelle (VLMs) und anderer generativer KI-Anwendungen.
Bei bildbasierten Modellen – wie der Yolo-basierten Objekterkennung, Posenschätzung und Szenensegmentierung – entspricht die Computer-Vision-Leistung des AI HAT+ 2 dank des integrierten RAM weitgehend der seines 26-TOPS-Vorgängers. Er profitiert außerdem von der gleichen engen Integration mit unserem Kamera-Software-Stack (libcamera, rpicam-apps und Picamera2) wie der ursprüngliche AI HAT+. Für Benutzer, die bereits mit der AI HAT+-Software arbeiten, ist der Übergang zum AI HAT+ 2 weitgehend nahtlos und transparent.
Ein HAT, der Ihre Sprache spricht
Ausgestattet mit dem Hailo-10H KI-Beschleuniger und 8 GB Onboard-RAM bringt der Raspberry Pi AI HAT+ 2 generative KI-Fähigkeiten auf den Raspberry Pi 5.
Off-Board-Aufgaben mit On-Board-RAM
Mit 8 GB dediziertem Onboard-RAM ist der AI HAT+ 2 ideal für die lokale und sichere Ausführung großer Sprachmodelle (LLMs) und Bild-Sprach-Modelle (VLMs), sodass der Host-Raspberry Pi 5 für andere Aufgaben frei bleibt und Ihre KI-Modelle reibungslos laufen.
Ein Modell für Datenschutz und Sicherheit
Durch die Bereitstellung zuverlässiger KI-Verarbeitung mit geringer Latenz am Netzwerkrand und ohne Netzwerkverbindung vereinfacht der AI HAT+ 2 die Datensicherheit, minimiert den Infrastrukturaufwand und reduziert die Kosten für Cloud-APIs.
Raspberry Pi®, SC2166, AI HAT+ 2, POE, Power over Ethernet, IOT
