Chatboty Calvin Wankhede / Android AuthorityAI stały się nieocenionym narzędziem dla wielu z nas, ale nie wszyscy jeszcze czują się komfortowo z ich używania. Pomiędzy faktem, że ChatGPT zapisuje twoje dane i że potrzebujesz połączenia z Internetem, aby z niego korzystać, wielu nie czuje się komfortowo z tego powodu. Problemy te można by przezwyciężyć, gdyby ChatGPT był oprogramowaniem typu open source, ponieważ umożliwiłoby każdemu uruchomienie go na własnym sprzęcie. Jest to już możliwe w przypadku niektórych konkurentów, o których porozmawiamy później. Ale zacznijmy od ChatGPT — czy jest darmowy w takim samym sensie jak Android i Linux?
Czy ChatGPT jest open source?
Edgar Cervantes / Android AuthorityNie, ChatGPT nie jest oprogramowaniem typu open source. Co więcej, jest oferowany bezpłatnie tylko użytkownikom końcowym. Jeśli chcesz dodać funkcjonalność ChatGPT do swojej witryny lub aplikacji, będziesz musiał zapłacić za każdą odpowiedź. Twórca ChatGPT, OpenAI, został założony jako organizacja non-profit. Jednak od tego czasu cele firmy zmieniły się na przestrzeni lat i teraz dąży do tego, by stać się rentownym. OpenAI ma obecnie wyjątkową przewagę, co oznacza, że czerpie korzyści z utrzymywania zamkniętego źródła ChatGPT. Powszechnie uważa się, że najnowszy model językowy GPT-4 firmy przewyższa konkurencję. Obejmuje to model PaLM 2 używany w czacie Google Bard. Nawet gdyby był to open source, uruchomienie lokalnej wersji ChatGPT na własnym komputerze byłoby niezwykle trudne, jeśli nie niemożliwe. Dzieje się tak dlatego, że technologia wymaga ogromnych ilości mocy obliczeniowej, zwłaszcza gdy mówimy o bardziej złożonych modelach, takich jak rodzina GPT OpenAI.
Jakie są otwarte alternatywy dla ChatGPT?
LLaMA firmy Meta jest jednym z najpopularniejszych dostępnych obecnie dużych modeli językowych typu open source. LLaMA to skrót od Large Language Model Meta AI, więc nazwa pochodzi od firmy macierzystej Facebooka. Warto jednak zauważyć, że LLaMA nie jest otwartą alternatywą ChatGPT dla przeciętnego użytkownika. Meta nie wydała jeszcze produktu opartego na LLaMA, tylko podstawowy kod. Ale jak pokażę w dalszej części, społeczność open source wymyśliła sposoby interakcji z LLaMA nawet na typowych komputerach domowych. Meta może nie mieć najlepszej reputacji w mediach społecznościowych, ale firma poczyniła znaczące wkłady open source na przestrzeni lat. Na przykład popularna platforma uczenia maszynowego PyTorch została pierwotnie opracowana przez dział sztucznej inteligencji firmy Meta. Podobnie wielu programistów korzysta z otwartej biblioteki React JavaScript firmy Meta, aby szybko tworzyć elementy interfejsu użytkownika dla swoich witryn internetowych. A teraz Meta stała się pierwszą dużą firmą, która udostępniła model językowy typu open source. Firma macierzysta Facebooka oferuje obecnie najpopularniejszy model dużego języka typu open source. Według Meta, mniejsze wersje jej modelu językowego LLaMA mogą nadążyć za GPT-3 OpenAI. Dla kontekstu ChatGPT używa bardziej zaawansowanej wersji GPT-3, często określanej jako GPT-3.5. A jeśli wydasz ponad 20 USD miesięcznie na subskrypcję ChatGPT Plus, uzyskasz również dostęp do najnowszego modelu GPT-4. Wszystko to oznacza, że model językowy LLaMA typu open source Meta nie może dokładnie nadążać za najlepszymi w branży. Jeśli potrzebujesz chatbota do bardziej złożonych zadań, które wymagają umiejętności logicznego rozumowania, uzyskasz lepsze wyniki z ChatGPT i GPT-4. Ale jeśli nie zależy Ci na najnowocześniejszych rozwiązaniach, istnieje sporo modeli językowych typu open source do wybrania z. Oto kilka przykładów:
BERT: BERT Google AI, skrót od Bidirectional Encoder Representations from Transformers, był jednym z pierwszych publicznie dostępnych modeli językowych. Według giganta wyszukiwania, BERT działa wyjątkowo dobrze w scenariuszach odpowiedzi na pytania, jeśli wcześniej dopracujesz model. Ale jak można się domyślić, rozpoczęcie pracy wymaga sporo pracy.
GPT-NeoX: GPT-NeoX firmy EleutherAI to model języka zawierający 20 miliardów parametrów, który jest znacznie łatwiejszy w użyciu. Wymaga jednak dużej ilości pamięci wideo GPU (VRAM), co wyklucza większość sprzętu klasy konsumenckiej. To powiedziawszy, możesz użyć wielu kart graficznych, aby osiągnąć minimalne wymagania 45 GB.
Alpaka: Grupa naukowców ze Stanford wzięła model językowy LLaMA firmy Meta i dostroiła go za pomocą interfejsu API GPT-3 OpenAI. Rezultatem jest mniejszy, ale wysoce zoptymalizowany model, który działa na zwykłym sprzęcie, w tym na moim laptopie ze średniej półki. Dostępność Alpaca uczyniła ją jedną z najpopularniejszych alternatyw typu open source dla ChatGPT.
Jak korzystać z chatbota AI typu open source w trybie offline
Calvin Wankhede / Android AuthorityTeraz, gdy znasz już niektóre dostępne alternatywy ChatGPT typu open source, możesz chcieć uruchomić jedną z nich samodzielnie. Na tym froncie są dobre wieści, ponieważ społeczność open source opracowała szereg łatwych rozwiązań, aby rozpocząć z nimi czat. Co najważniejsze, działają one również w trybie offline, więc nie potrzebujesz połączenia z Internetem. Chociaż możesz znaleźć indywidualne instrukcje dla każdego głównego modelu open source, zamiast tego zalecałbym użycie GPT4All. Jest to aplikacja graficzna, która pozwala trenować, dostrajać i rozmawiać z różnymi modelami open source, w tym wieloma opartymi na LLaMA. Kiedy testowałem to na Macbooku Air z M1, wygenerowanie odpowiedzi zajęło GPT4All zaledwie kilka sekund. Średnio było to mniej więcej tak szybkie, jak bezpłatna wersja ChatGPT, z kilkoma drobnymi spowolnieniami od czasu do czasu. Oto jak możesz zacząć: Odwiedź witrynę GPT4All i kliknij łącze pobierania dla swojego systemu operacyjnego: Windows, macOS lub Ubuntu. Postępuj zgodnie z instrukcjami, aby zainstalować oprogramowanie na swoim komputerze. Otwórz aplikację GPT4All i wybierz model językowy z listy. Aplikacja ostrzeże, jeśli nie masz wystarczających zasobów, dzięki czemu możesz łatwo pominąć cięższe modele. Po pobraniu możesz zacząć rozmawiać z modelem językowym. Po prostu wpisz monit, tak jak w przypadku ChatGPT i poczekaj na odpowiedź. Jeśli używasz wolniejszego komputera lub laptopa, pojawienie się odpowiedzi może zająć kilka sekund. Ale to jest kompromis, który musisz zaakceptować, gdy używasz modelu języka open source na własnej maszynie. Uwagi