India’s Ringg gets backing from Peak XV as it pushes voice AI past the phone call

Milionové investice do startupů, které "jen" telefonují, zní trochu jako sci-fi scénář z roku 2015, ale realita roku 2024 je o dost drsnější a technologicky vyspělejší. Když se indický startup Ringg dočkal podpory od giganta Peak XV (bývalý Sequoia India & Southeast Asia), nešlo jen o to, že někdo vymyslel lepší chatbot. Šlo o moment, kdy se voice AI (umělá inteligence ovládaná hlasem) přestává brát jako hračka a stává se kritickou infrastrukturou, která se musí vejít na hardware, který dnes nosíte v kapse nebo máte pod stolem. A ta infrastruktura se právě mění díky technologii, které říkáme kvantizace.

Proč to všechno teď? Protože provozovat gigantické jazykové modely pro každý telefonát je ekonomická sebevražda. Ringg to ví, investoři to vědí, a proto se celý trh posouvá směrem k extrémní optimalizaci. Mluvíme o modelech, které byly "vyléčeny" kvantizací, o strojích, které dělají tyto výpočty lokálně, a o financování, které řeší problém, jak vydělat na hlasu, aniž byste banketovali za výkon cloudových serverů.

Když peníze mluví: Peak XV a sázka na indický trh

Ringg není jen další aplikace pro nastavení budíku hlasem. Jedná se o technologii, která má za cíl zautomatizovat komplexní telefonické interakce – od zákaznické podpory až po aktivační hovory v bankovnictví a telekomunikacích. Indie je pro tento typ technologie dokonalým územím. S miliardou obyvatel, kde telefon stále zůstává klíčovým komunikačním kanálem a internetové připojení není všude stabilní, dokáže spolehlivá voice AI ušetřit firmám obrovské částky. Peak XV, fond s obrovským vlivem v asijském regionu, vsadil na to, že Ringg dokáže vyřešit problém "latence" a "pochopení kontextu" v indických jazycích a dialektech, které jsou pro globální modely jako GPT-4 často noční můrou.

Tato investice není jen o financích. Je to signál pro celý trh. Pokud fond této velikosti vkládá prostředky do voice AI, znamená to, že technologie dozrála. Firmy už nechtějí chatovací okna, chtějí, aby robot telefonoval a skutečně něco vyřešil. Pro Ringg to znamená kapitál na škálování, ale i tlak na výkonnost. Už nestačí, když AI "trochu" zní jako člověk. Musí to být dokonalé, levné a okamžité. A právě zde vstupuje do hry technická stránka věci – jak udržet náklady nízko při rapidně rostoucím požadavku na výkon.

Konec plýtvání GPU: Quantization-Aware Healing v praxi

Tady se dostáváme k tomu nejzajímavějšímu. Všechny tyhle hlasové asistentky musí "myslet". A myšlení stojí výpočetní výkon. Dosud bylo standardem používat plnopřesné modely (např. 16bitové nebo 32bitové plovoucí desetinnou čárlo), které jsou přesné, ale neuvěřitelně náročné na paměť a výkon procesoru. Zde přichází koncept Quantization-Aware Healing. Představte si to takto: vezmete obrovský, naučený model (jako Granite 4.2 od IBM) a "zmrazíte" ho do formátu o 4 bitech (4-bit quantization).

Běžně by taková komprese znamenala drastický pokles kvality – model by začal blábolit, ztratil by nuance a mohl halucinovat. Quantization-Aware Healing ale funguje jako tréninkový proces, který model "učí", jak se s touto ztrátou vyrovnat, ještě než k ní dojde. Výsledkem je model, který je čtyřikrát menší, má čtyřikrát nižší nároky na paměť a běží na levnějším hardwaru (nebo na spotřebitelských GPU), ale překvapivě – v mnoha benchmarkách – dosahuje lepších výsledků než svůj plnopřesný původní originál. Proč? Protože proces "hojení" (healing) často odstraní šum v datech a zanechá jen podstatnou informaci potřebnou pro rozhodování.

Pro Ringg a podobné firmy je to zázrak. Místo aby pustili každý hovor přes drahý cluster Nvidia A100 v cloudu, mohou nasadit tyto 4-bitové modely na hraniční zařízení (edge) nebo na menší, levnější cloudové instance. To snižuje provozní náklady o desítky procent. Pro developery to znamená, že mohou experimentovat s modely jako Granite na lokálních strojích. Pomocí nástrojů jako `llama.cpp` nebo knihoven od Hugging Face můžete si tyto modely stáhnout a spustit i na svém notebooku, pokud máte alespoň 16 GB RAM a slušnou grafickou kartu.

Apple Silicon a lokální revoluce v AI vývoji

Kde se tento vývoj odehrává? Částečně v cloudu, ale čím dál tím více u vás doma na stole. Apple nedávno představil nové desktopové počítače (iMac a Mac Studio s čipem M4), které jsou explicitně marketingovány jako stroje pro lokální vývoj AI. Není to jen marketing. Jednotka Neural Engine v čipech Apple Silicon má obrovský výkon pro operace s malou přesností (jou je právě ta 4-bitová kvantizace), což z nich dělá ideální laboratoře pro vývoj hlasových AI.

Pro Ringg to znamená, že jejich inženýři mohou trénovat a ladit modely lokálně, aniž by museli každou iteraci posílat do cloudu. Pro běžného vývojáře to znamená, že pořízení Macu Mini s čipem M4 Pro za cenu kolem 40 000 Kč vám dává do rukou stroj, který je schopen obsluhovat více parallelních hlasových AI agentů v reálném čase. Apple také integroval podporu pro frameworky jako PyTorch a TensorFlow tak, že maximalizují využití jejich proprietárního hardwaru.

V praxi to vypadá takto: stáhnete si quantizovaný model (například komunitní verzi Whisper pro převod řeči na text a LLaMA 3 nebo Granite pro generování odpovědi). Na Apple Siliconu poběží inference (generování odpovědi) s latencí pod 200 ms. To je číslo, které je nutné pro to, aby telefonát zněl přirozeně. Bez masivní optimalizace byste na tomto hardwaru zápolili s prodlevami, kdy by na druhém konci linky vznikal nepříjemný ticho. Apple tímto krokem demokratizuje přístup k vývoji agentů, jako je Ringg, a posouvá AI od "služby" k "aplikaci".

Granite 4.2 a sestavení modelu pro voice

Jak se tyto modely vůbec staví? IBM nedávno uvolnila informace o své řadě Granite 4.2 LLMs (Large Language Models). Granite nejsou jedním modelem, ale rodinou modelů navržených pro specifické úkoly – kódování, analýzu dat a samozřejmě práci s jazykem. Pro voice AI je zajímavý mix schopností. Ringg pravděpodobně využívá architekturu, kde jeden model slouží jako "rozum" (reasoning) a další specializované modely se starají o TTS (Text-to-Speech) a STT (Speech-to-Text).

Při sestavování takového systému nezačínáte vždy od nuly. Využívá se technika zvaná fine-tuning. Vezmete předtrénovaný model, který už umí anglicky (nebo hindsky), a nakrmíte ho specifickými daty – nahrávkami telefonátů, skripty z call centra a databází řešených problémů. Zde přichází ke slovu i technologie LoRA (Low-Rank Adaptation). LoRA umožňuje "přiučit" model novým dovednostem bez nutnosti přetrénovávat všechny jeho miliardy parametrů. Výsledkem je malý soubor (několik set MB), který se "nahodí" na základní model.

Tento přístup umožňuje Ringg rychle reagovat na potřeby klientů. Pokud banka chce specifický tón hlasu nebo jinou formulaci u GDPR souhlasu, stačí upravit LoRA adaptér, ne celý systém. Na platformách jako HuggingFace dnes najdete tisíce těchto adaptérů. Pokud byste chtěli experimentovat sami, můžete si stáhnout základní model (např. LLaMA 3 8B) a vyladit ho na svých datech pomocí open-source nástroje Axolotl. Zvládnete to na jedné silné grafické kartě během víkendu. To je síla dnešního open-source ekosystému – to, co dělají firmy jako Ringg, si v mikroměřítku může vyzkoušet každý nadšenec.

Rizika, šedá zóna a finanční dopady

Není to ale všechno růžové. Voice AI přináší obrovská etická a bezpečnostní rizika. Pokud umí AI telefonovat tak dokonale, že ji nerozeznáte od člověka, co brání podvodníkům, aby volali vašim babičkám a žádali je o převod peněz? Tato "šedá zóna" je noční můrou regulačních orgánů. Ringg a podobné seriózní firmy musí implementovat rigidní mechanismy pro ověřování totožnosti a vodotisky (watermarking), které prozradí, že hovor vede stroj.

Z finančního hlediska je to ale dvousečná zbraň. Na jedné straně automatizace call center ušetří firmám miliony. Na straně druhé to může vést k masivnímu propouštění v rozvojových zemích, kde call centra tvoří velkou část zaměstnanosti. Investice Peak XV do Ringg je tedy sázkou na to, že efektivita a úspora nákladů zvítězí nad sociálními dopady. A pravděpodobně mají pravdu – trh je neúprosný.

Pro investory a technologické nadšence je to zajímavý signál. Pokud chcete v této oblasti podnikat, neřešte jen "generování textu". Zaměřte se na infrastrukturu – kvantizované modely, nízko-latentní TTS enginy a bezpečnostní vrstvy. To je místo, kde vznikne skutečná hodnota. A pokud chcete vidět, jak se podobné principy sdílení a optimalizace využívají i v energetice, podívejte se na koncepty sdílení přebytků u Smart Energy Share. Princip "využij zdroje tam, kde jsou, a co nejefektivněji" je stejný pro data i pro elektřinu.

Zdroje

- Peak XV Partners – oficiální stránky a portfolium - IBM Granite – dokumentace a detaily o architektuře LLM - HuggingFace – centrum pro open-source modely a dataset - Apple Machine Learning Research – výzkum Neural Engine - Lupa.cz – články o umělé inteligenci a technologických trendech

Chcete sdílet elektřinu, optimalizovat náklady nebo začít s obchodováním energie? SmartEnergyShare je platforma pro sdílení energie z FVE, správu bateriových úložišť a chytré řízení spotřeby. Registrace zdarma →

Další články na toto téma najdete na: ElectricShare.cz Lucid’s more affordable Cosmos midsize SUV spotted ... Vice o byd launches