Nvidia aktualizuje swojego eksperymentalnego chatbota ChatRTX o więcej modeli AI dla posiadaczy kart graficznych RTX. Chatbot, który działa lokalnie na komputerze z systemem Windowsmoże już używać Mistral lub Llama 2 do przeglądania dokumentów osobistych, które do niego wprowadzasz, ale teraz lista obsługiwanych modeli AI rośnie i obejmuje modele Google Gemma, ChatGLM3, a nawet model CLIP OpenAI, aby ułatwić wyszukiwanie zdjęć.
Nvidia po raz pierwszy wprowadziła ChatRTX jako „Czat z RTX” w lutym jako aplikacja demonstracyjna, a do jego uruchomienia będziesz potrzebować procesora graficznego RTX z serii 30 lub 40 z 8 GB pamięci VRAM lub więcej. Aplikacja zasadniczo tworzy lokalny serwer chatbota, do którego można uzyskać dostęp z przeglądarki i przesyłać lokalne dokumenty, a nawet filmy z YouTube, aby uzyskać potężne narzędzie wyszukiwania wraz z podsumowaniami i odpowiedziami na pytania na podstawie własnych danych.
Model Google Gemma został zaprojektowany do działania bezpośrednio na wydajnych laptopach lub komputerach stacjonarnych, więc jego włączenie do ChatRTX jest odpowiednie. Aplikacja Nvidii upraszcza lokalne uruchamianie tych modeli, a powstały interfejs chatbota pozwala wybierać pomiędzy modelami, dzięki czemu możesz znaleźć ten, który najlepiej pasuje do Twoich danych, które chcesz analizować lub przeszukiwać.
ChatRTX, dostępny jako plik 36 GB do pobrania ze strony Nvidii, obsługuje teraz także ChatGLM3, otwarty, dwujęzyczny (angielski i chiński) model dużego języka oparty na ogólnej strukturze modelu języka. Dodano także funkcję wstępnego uczenia języka kontrastowego obrazu (CLIP) OpenAI, która umożliwia wyszukiwanie lokalnych danych zdjęć i interakcję z nimi, a także zasadniczo uczenie modelu rozpoznawania obrazów.
Wreszcie, Nvidia aktualizuje także ChatRTX, aby obsługiwał zapytania głosowe. Nvidia zintegrowała Whisper, system rozpoznawania mowy AI, który pozwala wyszukiwać dane za pomocą głosu.