Narušení umělá inteligence jako nástroj kybernetické bezpečnosti Mozilla právě udělala významný krok vpřed spoluprací mezi Mozillou a Anthropic na Firefoxu. Během pouhých několika týdnů dokázal model umělé inteligence v open-source prohlížeči Mozilly najít řadu zranitelností, které by za normálních okolností vyžadovaly měsíce specializované lidské práce.
Tento experiment, který má přímý dopad na Uživatelé Firefoxu ve Španělsku a zbytku EvropySloužilo to k měření toho, jak daleko dnes mohou jazykové modely zajít, pokud jde o audit reálného kódu, a jakou roli mohou hrát v ochraně softwaru, který denně používají stovky milionů lidí.
Když se umělá inteligence stane nejlepším bezpečnostním auditorem
V softwarové bezpečnosti je klíčové najít zranitelnost dříve, než ji útočníci udělají: může to znamenat rozdíl mezi chránit miliony uživatelů nebo zveřejnit jejich dataV této souvislosti Mozilla testovala neobvyklý přístup: nechala pokročilou umělou inteligenci zkontrolovat zdrojový kód svého prohlížeče a najít zranitelnosti dříve, než to udělají výzkumníci nebo kyberzločinci.
Několik týdnů před spuštěním Firefox 148Bezpečnostní tým prohlížeče obdržel překvapivou zprávu: Červený tým Anthropic Frontier —interní ofenzivní výzkumná skupina společnosti — tvrdila, že s pomocí svého Claudeova modelu zjistila, více než tucet ověřitelných bezpečnostních chyb v JavaScriptovém enginu Firefoxu. Nejednalo se o pouhá podezření, ale o chyby podložené konkrétními důkazy.
Od ostatních pokusů o využití umělé inteligence v této oblasti se odlišovala kvalita reportingu. Každá zranitelnost byla podložena... minimální reprodukovatelné testovací případyJednalo se o malé úryvky kódu, které mohly deterministicky spustit zranitelnost. To umožnilo inženýrům Mozilly během několika hodin ověřit, zda problém skutečně existuje, a začít pracovat na záplatách, aniž by trávili čas reprodukcí nejednoznačných scénářů.
V ekosystému, kde mnoho upozornění generovaných automatizovanými nástroji končí v koši, protože jsou falešně pozitivní nebo nepřesné hlášeníPřístup společnosti Anthropic drasticky snížil šum a poskytl užitečný signál: menší objem, ale ověřené a proveditelné závěry.
Co je Anthropicův Frontier Red Team a jak spolupracuje s Claudem?
Volání Tým Frontier Red Je to jednotka společnosti Anthropic, která se věnuje zkoumání limitů jejích modelů umělé inteligence v oblasti útočné a obranné bezpečnosti. Jejím cílem je nejen posoudit interní rizika v rámci modelů, ale také zkoumat... Jak lze umělou inteligenci využít k nalezení zranitelností v reálném softwaru? než to udělají zlomyslní aktéři.
V posledních měsících tento tým ukázal, že modely jako Claude Opus 4.6 může běžet vícestupňové útoky na komplexní sítě v kontrolovaném prostředíTo dává představu o jejich analytických schopnostech. Stejná pravomoc byla koordinovaným a zodpovědným způsobem přesměrována na kontrolu open-source projektů, jako je Firefox, v rámci odpovědných procesů zveřejňování zranitelností.
V konkrétním případě prohlížeče Mozilla začal Anthropic s testovacím cvičením: pomocí Clauda k reprodukovat historické zranitelnosti Firefoxu (CVE)Zkontrolovali jsme, zda model dokáže rozpoznat vzory chyb, které již byly zdokumentovány ve starších verzích kódu. Výsledek byl pozitivní, i když s jednou jasnou výhradou: některé z těchto informací by mohly být obsaženy v trénovacích datech modelu.
Aby zašli ještě dále, Frontier Red Team přešel k zajímavé části: požádal umělou inteligenci, aby lokalizovala nové zranitelnosti v aktuální verzi FirefoxuTedy chyby, které dosud nebyly uvedeny v žádné veřejné databázi ani v interních sledovacích systémech Mozilly.
Jak byly objeveny zranitelnosti v JavaScriptovém enginu Firefoxu
Výchozím bodem byl JavaScriptový engine prohlížeče, klíčová součást, protože je zodpovědná za spouštět nedůvěryhodný externí kód z webových stránekJakákoli chyba v této vrstvě se v nejhorším případě může stát branou k útoku na systém uživatele.
Jak vysvětlily Anthropic a Mozilla, Claude objevil svou první kritickou zranitelnost asi za dvacet minut. od začátku analýzy. Jednalo se o selhání typu use-after-zdarma, což je kategorie zranitelnosti paměti, která může útočníkovi umožnit přepsat data libovolným obsahem, pokud je propojena s dalšími slabinami systému.
Zatímco inženýři společnosti Anthropic ověřovali toto počáteční upozornění ve virtuálním počítači s nejnovější verzí prohlížeče, umělá inteligence pokračovala v práci paralelně. Během této doby model již zaznamenal přibližně 50 dalších vstupů s anomálním chováním, mnoho z nich se později proměnilo v testovací případy, které byly odeslány do Mozilly.
Proces se neomezoval pouze na JavaScriptový engine. Během přibližně dvou týdnů Claude analyzoval téměř 6 000 souborů C++ a tisíce dalších projektových souborůgenerování 112 unikátních hlášení. Z této sady byly po třídění bezpečnostním týmem Mozilly potvrzeny následující 22 zranitelností registrovaných jako CVE, z toho 14 bylo klasifikováno jako vysoce závažné, kromě téměř 90 dalších selhání, u nichž se má za to, že mají menší dopad, nebo že se jednalo o pouhé logické chyby.
Všechny identifikované bezpečnostní problémy byly opraveny ve vývojovém cyklu Firefoxu 148.Tato verze je nyní k dispozici pro uživatele v Evropě a zbytku světa. Byly také opraveny chyby s nižší prioritou, ačkoli některé úpravy byly vyhrazeny pro pozdější verze, aby se zabránilo zavedení příliš mnoha změn v jednom vydání.
Detekováno více než 100 chyb a méně falešně pozitivních výsledků než u jiných umělých inteligencí
Během této spolupráce Claudeova analýza přinesla Více než 100 různých chyb ve FirefoxuAčkoli se ne všechny z nich ukázaly jako zneužitelné zranitelnosti, objem studií ukazuje, že i vyspělé a auditované projekty, jako je prohlížeč Mozilla, mohou stále skrývat značné množství chyb.
Pro představu o dopadu bezpečnostní tým Mozilly vysvětlil, že během pouhých dvou týdnů testování byla umělá inteligence schopna Identifikujte počet vysoce závažných chyb, které odpovídají přibližně 20 % všech kritických zranitelností opravených v prohlížeči v průběhu jednoho roku.Jinými slovy, audit s pomocí umělé inteligence se soustředil na několik dní, což je úkol, který je obvykle rozložen na mnoho měsíců.
Klíčovým aspektem byla míra falešně pozitivních výsledků. Mnoho open-source projektů, včetně těch v Evropě, v posledních letech zaznamenalo falešně pozitivní výsledky. vlny zpráv generovaných nekvalitními nástroji umělé inteligenceTato hlášení často podávají uživatelé, kteří hledají odměnu prostřednictvím programů odměn za chyby. Správce zahlcují neexistujícími nebo špatně popsanými problémy.
Mozilla, vědoma si této situace, byla zpočátku ohledně spolupráce opatrná. Přístup Frontier Red Teamu se však ukázal být odlišný: K přezkumu byla předložena pouze ta rozhodnutí doprovázená pádnými důkazy., s jasnými automatickými reprodukcemi a v některých případech i s návrhy kandidátských záplat generovanými samotnou umělou inteligencí a zkontrolovanými lidmi.
Inženýři Mozilly zdůraznili tři prvky, které považují za zásadní pro důvěryhodnost reportů založených na umělé inteligenci: minimální počet testovacích případů, podrobné ověření konceptu a navrhované záplatyTato kombinace drasticky zkracuje čas potřebný k potvrzení, zda si nález zaslouží okamžitou pozornost, nebo zda jej lze odložit.
Dokáže umělá inteligence zneužít zranitelnosti, které objeví?
Jedním z nejchoulostivějších bodů experimentu bylo zjistit, zda je Claude schopen nejen najít zranitelnostiale také je proměnit v funkční exploityTedy v útocích schopných provádět škodlivé akce na cílovém systému.
Společnost Anthropic se rozhodla tuto schopnost změřit v kontrolovaném prostředí. Tým poskytl modelu informace o zranitelnostech, které již byly nahlášeny společnosti Mozilla, a požádal jej o vygenerování exploitového kódu s cílem... číst a zapisovat lokální soubor v testovacím stroji, což by v reálném scénáři znamenalo vážné narušení systému.
Aby toho bylo dosaženo, bylo provedeno několik stovek samostatných poprav a investováno přibližně [chybějící částka]. 4 000 USD v kreditech APIVýsledek byl nejednoznačný: Claudeovi se podařilo vytvořit pouze Dva jednoduché triky, které by fungovalyA to pouze v prostředí, kde bylo několik ochranných prvků přítomných v moderních prohlížečích, jako je sandbox a další ochranné mechanismy, záměrně deaktivováno.
Mozilla zdůrazňuje, že v reálných podmínkách kompromitace Firefoxu obvykle vyžaduje řetězení více zranitelností a obcházení více vrstev obranyNalezení jediné zranitelnosti, byť i té s vysokou závažností, jen zřídka stačí k převzetí kontroly nad systémem uživatele, což v současné době omezuje přímý útočný potenciál těchto nástrojů.
Přesto Anthropic považuje za významné, že jazykový model je schopen, byť jen v několika málo případech a za omezených podmínek, automaticky generovat exploit pro moderní prohlížečSpolečnost varuje, že tato propast – rozdíl mezi detekcí a zneužitím – by se mohla zmenšit s tím, jak se modely a metody hodnocení budou dále zlepšovat.
Mozilla integruje umělou inteligenci do svých bezpečnostních protokolů
Po úspěchu spolupráce, Mozilla potvrdila, že integruje analýzu s využitím umělé inteligence do svého běžného bezpečnostního pracovního postupu. pro Firefox. Týmy nadace již začaly interně experimentovat s Claudem pro třídění chyb, kontrolu oprav a detekci vzorců zranitelností v kritických oblastech kódu.
Organizace se silnou přítomností uživatelů a vývojářů v Evropě vnímá tuto technologii jako způsob, jak posílit ochranu soukromí a zabezpečeníToto jsou pilíře, které tvoří součást identity projektu Firefox. Jelikož se jedná o prohlížeč s otevřeným zdrojovým kódem, jeho kódová základna je k dispozici k auditu jak nezávislým výzkumníkům, tak automatizovaným agentům, jako je například vlastní umělá inteligence společnosti Anthropic.
Pro Mozillu bude klíčové udržování rovnováha mezi automatizací a lidskou kontrolouPřestože modely umělé inteligence mohou urychlit detekci chyb a navrhnout opravy, nadace trvá na tom, že jakákoli záplata – ať už od osoby nebo stroje – musí projít stejnou úrovní technické kontroly, než bude integrována do prohlížeče používaného občany Evropy a zbytku světa.
Tato zkušenost poskytla také praktický návod pro další softwarové projekty, včetně těch vyvinutých ve Španělsku nebo v rámci Evropské unie: pokud mají být zprávy založené na umělé inteligenci akceptovány, je vhodné požadovat jasný důkaz reprodukovatelnosti a zavést specifické kanály pro tento typ zveřejňování, aby se zabránilo přetížení tradičních systémů sledování chyb.
Ponaučení pro vývojáře a technologické společnosti v Evropě
Kromě mediálního šílenství kolem Firefoxu přináší spolupráce mezi Anthropic a Mozillou řadu relevantních závěrů pro... startupy, technologické malé a střední podniky a velké evropské společnosti které vyvíjejí vlastní software nebo digitální služby.
Jedním z nejjasnějších je, že Audit kódu s pomocí umělé inteligence se stal ekonomicky životaschopnýmCo by dříve vyžadovalo tým specialistů pracujících týdny, může nyní provést počáteční automatizovanou kontrolu během několika hodin nebo dnů, a to za mnohem nižší cenu než důkladná manuální kontrola.
Dalším ponaučením je, že Rychlost detekce začíná převyšovat lidské korekční schopnostiNástroje jako Claude dokáží rychle najít desítky potenciálních zranitelností, ale úzkým hrdlem se stává schopnost interních týmů tyto problémy ověřit, stanovit priority a opravit, aniž by došlo k narušení jiných částí systému.
Je také jasné, že Open source není synonymem pro zaručenou bezpečnostNabízí však jednu významnou výhodu: transparentnost. Projekty jako Firefox, v Evropě velmi populární pro své zaměření na soukromí, umožňují komunitě i automatizovaným agentům průběžně kontrolovat kód, což je v uzavřených řešeních nemožné.
Pro mnoho organizací se může integrace umělé inteligence do vývojového procesu – například začleněním automatizované analytiky do fází CI/CD – stát rozlišovací faktor při prokazování souladu s předpisyToto se stává stále relevantnějším s budoucím uplatňováním evropských norem v oblasti kybernetické bezpečnosti a kritického softwaru.
Zároveň tento případ slouží jako připomínka toho, že útočníci mají také přístup k podobným technologiím. Aktuální výhoda se zdá být na straně obrany.Umělá inteligence je lepší v hledání a pomoci s opravou nedostatků než v jejich zneužívání, ale nikdo nebere jako samozřejmost, že tato výhoda vydrží mnoho let.
V tomto scénáři bezpečnostní manažeři v evropských společnostech – od bank přes platformy elektronického obchodování až po digitální dodavatele služeb – začínají vnímat tyto nástroje nikoli jako experimentální doplněk, ale jako… další součást jejich strategie ochrany softwaru.
Debakly Firefoxu a Anthropicu ukazují, jak dobře řízený a kontrolovaný model umělé inteligence může fungovat jako špičkový bezpečnostní auditor: dokáže kontrolovat rozsáhlé kódové základny, detekovat složité chyby a velmi rychle navrhovat řešení. Zároveň jasně ukazuje, že konečné rozhodnutí stále zůstává na lidských týmech, které se musí rozhodnout, co zaplatit, jak a s jakými prioritami v prostředí, kde se tempo vývoje softwaru a hrozeb neustále zrychluje.
