Episode image

BM130: LangChain i wektorowe bazy: ciemna strona prototypowania AI

Biznes Myśli

Episode   ·  0 Play

Episode  ·  1:04:59  ·  Oct 9, 2024

About

Dzisiaj skupimy się na wdrażaniu AI na produkcję. Omówię trzy kluczowe kwestie:1️⃣ Paradoks danych, zwykle zgadzamy się, że dane są ważne, ale często nie poświęcamy im tyle uwagi, ile potrzebują.2️⃣ Przesadna koncentracja na narzędziach, owszem narzędzia są ważne, ale nie najważniejsze.3️⃣ Cechy dobrego projektu na produkcję. Powinien być wiarygodny, kontrolowany, audytowalny i łatwy w naprawie błędów.Partnerem podcastu jest DataWorkshop - gdzie zajmują się praktycznym ML/AI.Na koniec odcinka też odpowiadam na pytania:Jakie są najczęstsze błędy firm, które próbują wdrożyć AI (główny mit)?Jakie są największe wyzwania związane z modelami LLM przy wdrażaniu je na produkcję?Jakie praktyczne wskazówki mam dla Ciebie, aby wdrożyć AI w swojej firmie? Najważniejszym elementem udanego wdrożenia AI jest odpowiednie przygotowanie danych. To właśnie na poziomie danych wykonuje się 50-80% całej pracy. Kluczowe jest zadbanie o:Jakość danychOdpowiednią strukturyzację (np. w bazie danych lub systemie plików)Łatwość wyszukiwania potrzebnych informacjiMożliwość aktualizacji danychZarządzanie dostępami i uprawnieniamiPowiem Ci trzy historie (projekty LLM), co najmniej trzy, będzie pewnie ich więcej, ale takie trzy przypadki użycia, w których wprost jako DataWorkshop jesteśmy teraz zaangażowani. Myślę, że to pobudzi Twoją wyobraźnię i lepiej zrozumiesz, co jest ważniejsze. Bo pamiętaj, że w większości przypadków są różne szacunki, 80%, 90%, nawet jeśli 50%, zwykle ML nie działa. Historia pierwsza - "Mentor"Organizacja zajmuje się mentoringiem w obszarze IT, skupiając się na wiedzy organizacyjnej, menedżerskiej i liderskiej. Obecnie zapraszani są eksperci, którzy prowadzą warsztaty. Są pewne wyzwania: ciężko jest to uspójnić, bo różni eksperci prezentują wiedzę w inny sposób i co jeszcze jest Trudności ze znalezieniem praktyków, bo znalezienie i zaangażowanie zapracowanych ekspertów jest trudne.Pojawił się pomysł, aby ocyfrować wiedzę i częściowo zautomatyzować mentoring przy pomocy AI. Czy to w ogóle możliwe?Historia druga - "Egzamin"Drugi projekt nazwijmy "Egzamin". W szkole zawodowej uczniowie zdają egzaminy, aby zdobyć kwalifikacje. Celem projektu jest stworzenie asystenta AI, który zdałby ten egzamin. Dlaczego to istotne? Zdając egzamin, asystent udowodniłby, że rozumie daną branżę. Można go by potem rozwijać, aby podpowiadał i prognozował. Klasyczne uczenie maszynowe i LLM mogą tu współdziałać. LLM może posiadać ogólną wiedzę zdobytą w procesie uczenia, a klasyczne algorytmy ML mogą prognozować wartości, np. popyt.Historia trzecia - "Helpdesk"Trzecia projekt nazwijmy "Helpdesk", projekt, w którym zachowanie poufności jest kluczowe. Nie mogę zdradzać szczegółów branży. W skrócie, chodzi o wykorzystanie LLM do stworzenia chatbota obsługującego bazę wiedzy i odpowiadającego na pytania użytkowników.Co znajdziesz w tym odcinku?1️⃣ Paradoks danych – mówimy o ich znaczeniu, ale często zaniedbujemy realne działania na rzecz ich jakości.2️⃣ Dlaczego 80-90% projektów ML nie trafia na produkcję? Poznaj najczęstsze błędy.3️⃣ Trzy inspirujące przykłady z życia – mentoring z AI, egzamin z udziałem LLM oraz obsługa klienta wspomagana przez AI.4️⃣ Kontrola i audytowalność – jak stworzyć projekt, który będzie skalowalny, zaufany i gotowy do poprawy błędów.5️⃣ LLM i klasyczne ML – współpraca, a nie konkurencja.6️⃣ Zadbaj o to, co naprawdę ważne! 7️⃣ Jeśli chcesz lepiej zrozumieć, jak skutecznie wdrażać modele ML w Twojej organizacji, nie przegap tego odcinka! Subskrybuj i włącz powiadomienia - Twoja droga do praktycznego ML zaczyna się od jednego kliknięcia: YouTube https://www.youtube.com/@DataWorkshop?sub_confirmation=1 Zostaw like, bo więcej lajków = więcej praktycznych treści dla Ciebie! Co o tym myślisz? Zostaw komentarz! Masz pytanie? Zadaj je - chętnie odpowiem. Poznajmy się lepiej! Zaproś mnie do swojej sieci na LinkedIn: https://www.linkedin.com/in/vladimiralekseichenko/ Zainicjuj rozmowę o ML w firmie, polecając ten podcast. Zainspiruj zespół do wdrażania ML! Tu możesz:pooglądać: https://youtu.be/7SWnHtGgDw8poczytać: https://biznesmysli.pl/langchain-i-wektorowe-bazy-ciemna-strona-prototypowania-ai/Chcesz więcej? Zajrzyj do moich kursów online i ucz się ML i analizy danych w praktyce! DS/ML od podstaw - https://bit.ly/47ZRf0w Python - https://bit.ly/47ZRbOk Statystyka - https://bit.ly/4dCPkQQ SQL - https://bit.ly/4ezPtpr Time Series - https://bit.ly/4ex0isc NLP - https://bit.ly/3Y0RWSA Słuchaj BM wygodnie na Spotify, Apple Podcasts lub Google Podcasts: https://open.spotify.com/show/3ZUaHommHHZU6b4WJiyV2I https://podcasts.apple.com/us/podcast/biznes-myśli/id1215290277 https://music.youtube.com/playlist?list=PLWOCRT27Z94XZzwcRI9-ExMyUXeBrF3W_#llm #rag #langchain #embedding #ai #ml #genai #podcast

1h 4m 59s  ·  Oct 9, 2024

© 2024 Spreaker (OG)