Underdog démontre un modèle de parole hors ligne de 32 Mo dans un jeu navigateur

Underdog a publié une démo basée sur un navigateur pour Woof, un modèle de génération de parole de 32 Mo que l'entreprise dit pouvoir faire fonctionner sur la plupart des appareils sans connexion Internet. Le modèle possède 31 millions de paramètres et est ouvert au téléchargement par tous.

La démo

La démo prend la forme d'un jeu appelé Woof, situé dans une pièce au thème technologique rétro, incluant une machine à écrire, un moniteur CRT et une lampe de bureau qui émet un son lorsque son interrupteur est cliqué. L'introduction met en garde les utilisateurs contre les fournisseurs de « nuage » « intrusifs » dans la ville, ce que TechCrunch décrit comme une pique ostensible envers les modèles basés sur le nuage.

Les utilisateurs peuvent taper n'importe quoi sur la machine à écrire à l'aide d'un clavier, et le jeu répète le texte à voix haute. Ils peuvent également tourner un accordeur de musique pour générer différents types de musique. Tout cela fonctionne dans le navigateur grâce au modèle de génération de parole d'Underdog.

Historique de l'entreprise

La démo fait suite, quelques semaines plus tard, au lancement par Underdog de Bark, un modèle de parole vers texte de 167 Mo également conçu pour fonctionner sur des appareils périphériques pour la transcription et la dactylographie. Underdog a également publié un modèle de 27 milliards de paramètres qui peut fonctionner sur des ordinateurs portables, ainsi qu'une application en liste d'attente que l'entreprise positionne comme une alternative hébergée localement à Muse et Instinct.

Sigil Wen, le fondateur d'Underdog, a déclaré à TechCrunch qu'il a commencé à développer l'application parce que, au lieu d'utiliser des notateurs comme Granola, il voulait construire son propre système avec des modèles d'IA qui peuvent fonctionner sur les appareils des utilisateurs et leur permettre de posséder leurs données.

« Je pense que nous serons en mesure de faire fonctionner les modèles les plus performants d'aujourd'hui sur les appareils que vous possédez déjà dans les mois à venir. Nous voulons simplement former les meilleurs modèles ouverts qui sont fabriqués aux États-Unis, qui sont ouverts, qui sont performants et qui permettent aux gens d'avoir une IA privée », a-t-il déclaré, faisant référence à son manifeste.

Pourquoi cela compte

Bien qu'un modèle aussi petit ne remplacera probablement pas les modèles plus grands, il peut encore suffire à stimuler les expériences d'assistants locaux ou à créer des podcasts personnalisés. La publication reflète une tendance plus large de chercheurs et de startups créant de plus petits modèles d'IA qui peuvent fonctionner sur des appareils périphériques comme les téléphones et les ordinateurs, alors que les entreprises d'IA du monde entier s'affrontent pour construire des modèles plus grands qui nécessitent une puissance de traitement substantielle.

Sources (en anglais)

• techcrunch.com: Underdog shows off a 32MB speech model in new demo | TechCrunch
• mezha.net: Underdog demos 32MB speech model in a browser game
• tradersunion.com: Underdog unveils 32MB speech model for on-device audio generation

Traduction réalisée par IA de l’article original en anglais, vérifiée automatiquement pour dire la même chose que l’original. Les sources ont été vérifiées en anglais.