Modele OpenAI i Codex trafiają do Google Cloud: co to oznacza dla hybrydowych przepływów pracy AI

Eva Wong jest Technicznym pisarzem i stałym majsterkowiczem w ZimaSpace. Całe życie geek z pasją do homelabów i oprogramowania open-source, specjalizuje się w tłumaczeniu skomplikowanych koncepcji technicznych na przystępne, praktyczne przewodniki. Eva wierzy, że samodzielne hostowanie powinno być zabawą, a nie czymś onieśmielającym. Poprzez swoje samouczki umożliwia społeczności rozwiewanie tajemnic konfiguracji sprzętu, od budowy pierwszego NAS po opanowanie kontenerów Docker.

Ogłoszenie OpenAI dotyczące Google Cloud wprowadza kolejną drogę dostępu do modeli i przepływów pracy Codex. Dla zespołu, który już kupuje usługi chmurowe za pośrednictwem Google, praktyczną korzyścią może być łatwiejsze zaopatrywanie się i znajome mechanizmy zarządzania. Ogłoszenie zapowiada wdrożenie w nadchodzących tygodniach; nie oznacza to, że każdy model jest już dostępny na każdym koncie i w każdym regionie.

Dla użytkowników ZimaSpace przydatna architektura jest hybrydowa: oryginały projektów i możliwe do odzyskania kopie przechowuj na własnej pamięci masowej, a wybrane dane wejściowe do zadań wysyłaj do zatwierdzonego punktu końcowego w chmurze. To partnerstwo zmienia sposób uzyskiwania dostępu do wnioskowania. Nie zmienia jednak NAS-a w usługę Google Cloud ani nie sprawia, że dokumenty przetwarzane zdalnie pozostają w całości lokalnie.

Co właściwie ogłosiły OpenAI i Google Cloud?

Ogłoszenie z 21 października informuje o udostępnieniu za pośrednictwem Google Cloud Model Garden zaawansowanych modeli OpenAI i przepływów pracy Codex. Wspomina też o zakupach w Marketplace i kwalifikujących się zobowiązaniach wobec Google Cloud. Po uruchomieniu dostępu należy sprawdzić dostępność, obsługiwane modele i warunki handlowe dla własnego konta.

Ta wiadomość ma największe znaczenie, jeśli systemy zakupowe i tożsamościowe już wpływają na wybór rozwiązań AI. Osoba eksperymentująca z jednym API może odczuć mniejsze bezpośrednie korzyści niż organizacja konsolidująca wydatki na chmurę.

Jak hybrydowy przepływ pracy AI wykorzystuje domowy NAS?

Prosty przepływ pracy polega na przechowywaniu repozytorium źródłowego lub zbioru dokumentów na pamięci masowej, przygotowaniu niewielkiego folderu z plikami do zadania, wywołaniu modelu z poziomu klienta i zapisaniu sprawdzonych wyników. Klient może działać na stacji roboczej lub osobnym hoście wykonawczym. Dane uwierzytelniające należy przechowywać w menedżerze sekretów klienta, poza folderami współdzielonymi.

Nasz przewodnik przygotowania plików NAS do pracy z agentami wyjaśnia, jak wybrać materiały wejściowe bez ujawniania całego archiwum.

Za co nadal odpowiada użytkownik?

Warstwa Obowiązek weryfikacji
Pamięć masowa Uprawnienia, możliwość odzyskania oryginałów i osobna kopia zapasowa
Wnioskowanie Warunki dostawcy, przetwarzanie danych, region i dostęp do modeli
Narzędzia Z których repozytoriów, terminali i kont można korzystać
Wyniki Dokładność, integralność plików i zatwierdzenie przed publikacją

Kontrola dostępu do chmury obejmuje zasoby chmurowe. Nie ogranicza automatycznie dostępu agenta do osobno podłączonych lokalnych systemów plików ani połączonych aplikacji. W takich przypadkach skorzystaj z listy kontrolnej uprawnień do plików i kont.

Czy partnerstwo obniży koszty lub poprawi jakość modeli?

Żaden z tych rezultatów nie jest gwarantowany. Warunki korzystania z marketplace’u mogą pomóc niektórym organizacjom wykorzystać zakontraktowane wydatki, ale transfer danych, wywołania narzędzi, pamięć masowa, ponowne próby i weryfikacja nadal składają się na całkowity koszt. Znana nazwa modelu nie gwarantuje też identycznych wersji, limitów ani obsługi funkcji we wszystkich kanałach dostępu.

Porównuj pełne, zaakceptowane zadania, stosując metodę kosztu przypadającego na zaakceptowany wynik, zamiast uznawać cenę za token za całkowity koszt.

Od czego użytkownicy ZimaSpace powinni zacząć przygotowania?

Wybierz jedno zadanie o niskim ryzyku, na przykład przygotowanie informacji o wydaniu na podstawie niewielkiego eksportu repozytorium. Zapisz, które pliki opuszczają pamięć masową, kto może uruchomić zadanie i gdzie zapisywany jest końcowy szkic. ZimaCube 2 może pełnić funkcję warstwy przechowywania projektu; moc obliczeniowa potrzebna do wnioskowania i integracja z chmurą to osobne kwestie.

Przed skonfigurowaniem dostępu skorzystaj z naszego przewodnika przygotowania do Google Cloud, a gdy o wyborze zaczną decydować kwestie zakupowe i zarządzania, zapoznaj się z porównaniem bezpośredniego dostępu przez API z Model Garden.

Często zadawane pytania

Czy modele OpenAI są już powszechnie dostępne w Model Garden?

Ogłoszenie zapowiada wdrożenie w przyszłości. Sprawdź oficjalną stronę dostępu i swoje konto Google Cloud, aby poznać bieżącą dostępność modeli i regionów.

Czy korzystanie z Google Cloud pozwala przechowywać pliki NAS lokalnie?

Nie. Każda treść wysłana do zdalnego wnioskowania opuszcza granice NAS-a. Ogranicz liczbę przesyłanych plików i fragmentów.

Czy ZimaCube 2 uruchamia te modele w chmurze?

ZimaCube 2 może przechowywać dane wejściowe i wyniki. Modele Google Cloud działają w chmurze.

Czy należy od razu przenieść istniejącą integrację?

Dopiero po potwierdzeniu dostępu do modelu, zgodności funkcji, sposobu przetwarzania danych oraz wyników niewielkiego, reprezentatywnego zadania.

Powiązane artykuły

Źródła

Okładka: Oficjalna grafika ogłoszenia OpenAI × Google Cloud. Źródło obrazu.

Centrum Technologii i Sztucznej Inteligencji

Więcej do przeczytania

Get More Builds Like This

Stay in the Loop

Get updates from Zima - new products, exclusive deals, and real builds from the community.

Stay in the Loop preferences

We respect your inbox. Unsubscribe anytime.