Underdog demonstriert 32MB Offline-Sprachmodell in Browser-Spiel

Kurz gesagt

Underdog hat Woof veröffentlicht, ein 32MB großes Sprachgenerierungsmodell mit 31 Millionen Parametern, das offline im Browser läuft.
Die Browser-Demo ermöglicht es Nutzern, Text für die Sprachausgabe einzugeben und einen Musikstimmer zu verwenden, um verschiedene Arten von Musik zu generieren.
Underdog hat zuvor Bark veröffentlicht, ein 167MB großes Speech-to-Text-Modell für Edge-Geräte, sowie ein Modell mit 27 Milliarden Parametern für Laptops.
Gründer Sigil Wen sagte, das Ziel sei es, offene, in den USA hergestellte Modelle zu trainieren, die es den Menschen ermöglichen, private KI auf ihren eigenen Geräten zu nutzen.

Underdog hat eine browserbasierte Demo für Woof veröffentlicht, ein 32MB großes Sprachgenerierungsmodell, das nach Angaben des Unternehmens auf den meisten Geräten ohne Internetverbindung laufen kann. Das Modell verfügt über 31 Millionen Parameter und ist für jeden zum Download freigegeben.

Die Demo

Die Demo nimmt die Form eines Spiels namens Woof an, das in einem Raum mit Retro-Tech-Theme spielt, einschließlich einer Schreibmaschine, eines CRT-Monitors und einer Schreibtischlampe, die einen Ton von sich gibt, wenn ihr Schalter geklickt wird. Die Einleitung warnt Nutzer vor "aufdringlichen" Cloud-Anbietern in der Stadt, was TechCrunch als offensichtlichen Seitenhieb auf cloudbasierte Modelle beschreibt.

Nutzer können auf der Schreibmaschine mit einer Tastatur alles eingeben, und das Spiel spricht den Text zurück. Sie können auch einen Musikstimmer drehen, um verschiedene Arten von Musik zu generieren. All dies funktioniert innerhalb des Browsers durch Underdogs Sprachgenerierungsmodell.

Hintergrund des Unternehmens

Die Demo erscheint wenige Wochen nach der Veröffentlichung von Bark, einem 167MB großen Speech-to-Text-Modell, das ebenfalls für die Ausführung auf Edge-Geräten zur Transkription und Diktatgestaltung konzipiert ist. Underdog hat auch ein Modell mit 27 Milliarden Parametern veröffentlicht, das auf Laptops laufen kann, sowie eine App auf einer Warteliste, die das Unternehmen als lokal gehostete Alternative zu Muse und Instinct positioniert.

Sigil Wen, der Gründer von Underdog, sagte TechCrunch, er habe begonnen, die App zu entwickeln, weil er anstelle der Nutzung von Notiznehmern wie Granola sein eigenes System mit KI-Modellen bauen wollte, die auf den Geräten der Nutzer laufen und es ihnen ermöglichen, ihre Daten zu besitzen.

"Ich denke, wir werden in der Lage sein, die leistungsfähigsten Modelle von heute innerhalb von Monaten auf den Geräten auszuführen, die Sie bereits besitzen. Wir wollen einfach die besten offenen Modelle trainieren, die in den USA hergestellt sind, die offen sind, die leistungsfähig sind und es den Menschen ermöglichen, private KI zu haben", sagte er und bezog sich auf sein Manifest.

Warum es wichtig ist

Während ein solch kleines Modell wahrscheinlich keine größeren Modelle ersetzen wird, reicht es möglicherweise immer noch aus, um lokale Assistentenerfahrungen anzutreiben oder personalisierte Podcasts zu erstellen. Die Veröffentlichung spiegelt einen breiteren Trend wider, bei dem Forscher und Startups kleinere KI-Modelle entwickeln, die auf Edge-Geräten wie Handys und Computern laufen können, während KI-Unternehmen weltweit darum wetteifern, größere Modelle zu bauen, die erhebliche Rechenleistung erfordern.

Quellen (auf Englisch)

KI-Übersetzung des englischen Originalartikels, automatisch geprüft, damit sie dasselbe aussagt wie das Original. Die Quellen wurden auf Englisch geprüft.

How do you feel about this story?

Comments 0

No comments yet. Start the discussion.