Amerykański gigant stawia na Europę. Mamy lepszy sprzęt niż USA

Anthropic, firma stojąca za jednymi z najlepszych obecnie modeli AI, ma prowadzić rozmowy z brytyjskim startupem Fractile w sprawie zakupu wyspecjalizowanych układów do obsługi inferencji. Według doniesień nie chodzi jeszcze o gotowy kontrakt, ale o bardzo wczesny etap rozmów.

Koszt generowania odpowiedzi staje się równie ważny jak trenowania

Fractile rozwija architekturę Memory Compute Fusion, której głównym celem jest ograniczenie ciągłego przesyłania danych między pamięcią a jednostkami obliczeniowymi. To właśnie ten transfer jest jednym z głównych hamulców dla LLM. Brytyjczycy chcą więc przenieść większą część operacji bliżej SRAM i zmniejszyć zależność od DRAM. Ma to oznaczać nawet x25 szybszą inferencję i koszt na poziomie 1/10 obecnych rozwiązań.

Dla Anthropic byłby to logiczny ruch. Firma korzysta dziś z infrastruktury opartej na układach różnych dostawców, w tym NVIDII, Google i Amazona, co ogranicza ryzyko uzależnienia od jednej platformy. Popyt na moc obliczeniową rośnie jednak tak szybko, że najwięksi gracze AI coraz chętniej interesują się rozwiązaniami projektowanymi dokładnie pod ich potrzeby.

Warto przy tym zaznaczyć, że Fractile nadal jest na wczesnym etapie rozwoju. Według dostępnych informacji startup nie ma jeszcze gotowych układów, więc mówimy raczej o przygotowaniach na przyszłość niż o technologii, która za kilka miesięcy masowo trafi do centrów danych.

Zespół firmy ma jednak mocne zaplecze, bo tworzą go osoby związane wcześniej m.in. z NVIDIĄ, Graphcore i Imagination Technologies. Co więcej, ten kierunek wpisuje się też w szerszy trend w branży. NVIDIA rozwija podobną koncepcję w ramach platformy Vera Rubin i Groq 3 LPX. To tłumaczy, dlaczego młoda spółka przyciąga już tak dużą uwagę.