Šéf OpenAI musel číst svůj deník před soudem. Tady je návod, jak si postavit soukromou AI, kterou vám nikdo neukradne

Představte si, že stojíte před soudní porotou a musíte nahlas číst svoje nejosobnější zápisky. Ne ty, co jste psali pro investory, ale ty, které jste si škrábali v noci do iPhonu, když jste nemohli spát. Přesně tohle se stalo Gregu Brockmanovi, prezidentovi OpenAI. V ostře sledovaném sporu s Elonem Muskem se Brockmanovy digitální deníky staly klíčovým důkazem. Ukazují, jak se z "neziskovky pro záchranu lidstva" stal největší komerční dravec v Silicon Valley.

Tenhle bizarní moment u soudu v San Franciscu není jen bulvární perlička. Je to brutální budíček pro každého, kdo svěřuje svoje nápady, data nebo firemní strategii cloudovým službám. Pokud si myslíte, že vaše prompty do ChatGPT jsou v bezpečí, Greg Brockman by vám teď mohl vyprávět. Vaše data v cloudu patří komukoliv, kdo má dost peněz na právníky nebo dost drzosti na hacknutí serveru.

Proč Reddit nesnáší váš mobilní prohlížeč?

Zatímco Brockman listoval deníkem, Reddit rozjel další kolo války proti otevřenému webu. Pokud jste v posledních dnech zkusili navštívit Reddit přes mobilní prohlížeč (bez aplikace), pravděpodobně jste narazili na zeď. Buď vás to agresivně nutí ke stažení aplikace, nebo se web prostě nenačte.

Důvod je prostý: data. V prohlížeči vás Reddit nemůže tak efektivně špehovat. Nemůže prodávat vaše chování inzerentům s takovou přesností a nemůže vám vnutit tolik reklam. Je to stejný princip jako u OpenAI. Platformy, které jsme si oblíbili, se mění v uzavřené zahrady s vysokým plotem. A my jsme uvnitř, ne jako hosté, ale jako produkt.

Když k tomu připočteme čerstvý incident s legendárním programem Daemon Tools, začíná to vypadat na digitální apokalypsu. Tenhle nástroj pro práci s disky, který měl v počítači snad každý mileniál, byl měsíc zneužíván k distribuci malwaru přes oficiální aktualizace. Supply-chain attack v přímém přenosu. Pokud i prověřený software může být zradou, komu zbývá věřit?

Cesta ven: Lokální AI za cenu jedné večeře

Dobrá zpráva je, že se nemusíte vracet k psacím strojům. Řešením je lokální AI. Dnes už nepotřebujete superpočítač v garáži, abyste mohli provozovat modely, které se vyrovnají GPT-3.5 a v mnoha ohledech šlapou na paty i GPT-4.

Základním nástrojem pro každého, kdo to myslí vážně, je Ollama. Je to v podstatě Docker pro LLM (velké jazykové modely). Instalace na Linuxu nebo Macu zabere jednu minutu:

```bash curl -fsSL https://ollama.com/install.sh | sh ollama run llama3 ```

A je to. Máte v počítači Llama 3 od Mety. Bez cenzury, bez odesílání dat na servery v USA a hlavně – nikdo vás nikdy nedonutí číst historii vašich dotazů u soudu, protože ta historie existuje jen u vás na disku.

Pokud chcete něco specifičtějšího, zamiřte na HuggingFace. Je to GitHub pro umělou inteligenci. Najdete tam tisíce modelů. Hledejte ty s označením "GGUF" – jsou optimalizované pro běžné procesory a grafické karty.

Hardware: Kolik to stojí?

Zapomeňte na řeči o tom, že AI vyžaduje karty za 100 000 Kč. Tady je realistický nákupní lístek:

Low-end (Hraní si): Repasovaný počítač s grafickou kartou NVIDIA RTX 3060 (12 GB VRAM). Na bazoši ji seženete za 5 000 Kč. Těch 12 GB paměti je kritických – tam se vám vejde většina moderních 7B a 8B modelů (jako Mistral nebo Llama 3) v plné parádě.
Střední třída (Produktivní práce): Mac Studio nebo MacBook s čipem M2/M3 a alespoň 32 GB RAM. Apple má výhodu v unifikované paměti, takže AI může využít celou RAM jako grafickou paměť. Tady už plynule spustíte modely s 30 miliardami parametrů.
High-end (Vlastní mozek): Dvě karty RTX 3090 (24 GB VRAM každá) zapojené vedle sebe. To je 48 GB video paměti, což stačí na provozování Llama 3 70B, což je model, který už reálně uvažuje a programuje lépe než většina juniorních vývojářů.

AI v energetice a ochrana soukromí

Proč o tom píšu na blogu o technologiích a energetice? Protože energetika je další oblast, kde nás data mohou "prodat". Chytré domácnosti, solární elektrárny a systémy pro sdílení elektřiny generují obrovské množství informací o tom, kdy jste doma, co děláte a jak žijete.

Pokud pro optimalizaci své FVE používáte cloudovou AI, dáváte neznámé firmě klíč ke svému soukromí. Lokální AI napojená na Home Assistant může řídit váš dům, nabíjení auta i prodej přebytků, aniž by jediný bajt opustil vaši síť. Právě v komunitní energetice a systémech jako SmartEnergyShare bude ochrana dat klíčová. Sdílení elektřiny sice vyžaduje komunikaci, ale rozhodování o tom, jak naložíte se svými zdroji, by mělo zůstat ve vaší režii – a ideálně pod dohledem vaší vlastní, lokální inteligence.

Jak začít s "vlastním mozkem" (LoRA a trénování)

Pokud máte data (třeba ty Brockmanovy deníky, nebo spíš historii svých e-mailů), můžete si model doučit (fine-tuning). Zapomeňte na drahé trénování od nuly. Použijte metodu LoRA (Low-Rank Adaptation).

Je to jako byste vzali hotového génia a dali mu přečíst jen vaše konkrétní skripta. Stojí to pár korun na pronajatém GPU (třeba na RunPod nebo Lambda Labs) a výsledek je model, který mluví jako vy a zná vaše firemní procesy. Na HuggingFace najdete knihovny jako `unsloth`, které tenhle proces zrychlují o 200 % a drasticky snižují nároky na paměť.

Závěr: Budoucnost patří autonomii

Příběh Grega Brockmana nám ukazuje, že v digitálním světě není nic "zadarmo" a nic "soukromé", pokud to nemáte fyzicky pod kontrolou. Cloud je jen cizí počítač, ke kterému má někdo jiný klíče.

Cesta k digitální svobodě vede přes open-source modely, lokální hardware a zdravou skepsi k velkým platformám, které vám blokují mobilní web jen proto, aby vás mohly lépe zpeněžit. Až příště budete psát do ChatGPT něco důležitého, vzpomeňte si na prezidenta OpenAI, jak u soudu potí krev nad svým deníkem. Možná je čas vypnout prohlížeč, nainstalovat Ollamu a vzít si své soukromí zpět.

Pokud to neuděláte vy, udělá to někdo za vás. A pravděpodobně se mu nebude líbit, co si o něm v tom deníku píšete.