09/05/2026
Hugging Face dorobił się własnej wersji typosquattingu i pierwszy poważny przypadek właśnie wylądował na #1 platformy.
Repozytorium "Open-OSS/privacy-filter" podszyło się pod legalny projekt OpenAI o nazwie "Privacy Filter". Model card skopiowany niemal słowo w słowo, brand wiarygodny, wszystko wygląda jak od jednego z największych graczy. Zanim Hugging Face zareagował na zgłoszenia, repo zebrało 244 tysiące pobrań.
Jak to działa od strony technicznej? W repo siedzi plik loader.py, który pobiera i uruchamia właściwy ładunek - infostealer napisany w Ruście, celujący w Windowsa. Wykrycie HiddenLayer z 7 maja.
Co kradnie:
👉 Cookies, zapisane hasła, klucze szyfrowania i tokeny sesyjne z przeglądarek opartych na Chromium i Gecko
👉Dane przeglądania
👉Wszystko pakowane i wysyłane na serwer C2
⚠️Do tego solidny zestaw anty-analizy:
wykrywanie maszyn wirtualnych, sandboxów, debuggerów i typowych narzędzi do analizy malware'u. Standard w tej klasie złodziei.
Liczby warto czytać z dystansem. 667 polubień to w większości konta wyglądające na automatycznie wygenerowane, a 244 tysiące pobrań mogło zostać sztucznie napompowane, żeby algorytm wyrzucił repo na top trending. Klasyczna mechanika manipulacji metrykami popularności, znana z npm i PyPI, tylko w nowym ekosystemie.
I tu jest sedno tej historii. Hugging Face przestał być "platformą dla researcherów ML". Stał się repozytorium zależności takim samym jak npm, PyPI czy Docker Hub - z tymi samymi problemami supply chain, ale bez równie dojrzałych narzędzi obronnych po stronie konsumentów. Twoi data scientists i ML engineers ściągają stamtąd modele tak, jak frontendowcy ciągną paczki z npm. Tylko że tam siedzi wykonywalny kod (loader[.]py, custom code w pickle, custom_code=True w transformers), a nie tylko wagi modelu.
🛡️Co warto wdrożyć u siebie:
👍 Allowlista organizacji i autorów na Hugging Face dopuszczonych do produkcji
👍Zakaz trust_remote_code=True bez code review, bez wyjątków
👍Skanowanie pobranych modeli przed użyciem (ProtectAI Guardian, JFrog, Picklescan)
👍Pinowanie konkretnych rewizji modelu, nie tagów typu "main"
👍Monitoring odpływu danych z maszyn data scientistów - to dziś realny endpoint, nie tylko "dev box"
👍Edukacja zespołu: liczba pobrań i pozycja w trending NIE są sygnałem zaufania
👍Threat model dla pipeline'u ML traktowany na równi z pipeline'em aplikacyjnym
Wnioski z poprzednich fal podobnych ataków (npm, PyPI, VS Code Marketplace) są niewdzięczne, ale spójne: nazwa platformy w nazwie firmy nikogo przed niczym nie chroni. Zaufanie trzeba zbudować procesem, nie reputacją hosta.
A u Was - macie już politykę dla Hugging Face na poziomie organizacyjnym, czy ML-owcy ciągną modele "na żywioł"?
Źródło: https://www.bleepingcomputer.com/news/security/fake-openai-repository-on-hugging-face-pushes-infostealer-malware/