Inhoud
A3Dbot Web App bouwen
โ Terug naar start
Vraag & Antwoord App GitHub Repository
โ De uiteindelijke online (web) AI-Chat-Bot. Bouwen met Streamlit
โ Eerste test AI-Chat-Bot met eigen data (met Faiss lokale vector database)
Chat with Multiple PDFs | LangChain App Tutorial in Python (Free LLMs and Embeddings) FAISS (1)
Langchain PDF App (GUI) | Create a ChatGPT For Your PDF in Python (2)
Create a ChatGPT clone using Streamlit and LangChain oa. Memory (3)
YouTube: Langchain + ChatGPT + Pinecone: A Question Answering Streamlit App
Streamlit Home
Streamlit API referentie
โ Deploy Streamlit apps
โ Markdown Cheat-sheet
โ Emoji's (kopiรซren/plakken)
Pinecone Home
GCP providor (pinecone) Google Cloud
YouTube: Langchain + ChatGPT + Pinecone: A Question Answering Streamlit App
V/A Flow
Using LangChain with DuckDuckGO Wikipedia & PythonREPL Tools
Building Custom Tools and Agents with LangChain (gpt-3.5-turbo) ook DuckDuckGo
โ Streamlit app altijd starten met
streamlit run app.py
Virtuele omgeving opzetten
Stap 1: Creรซer een virtuele omgeving
Python update PIP (regelmatig uitvoeren):
python -m pip install -U pip
of:
python.exe -m pip install --upgrade pip
Navigeer eerst naar de map van je project via de terminal of opdrachtprompt. Als je daar eenmaal bent, kun je de volgende commando's gebruiken om een virtuele omgeving te creรซren:
python -m venv venv
Hiermee wordt een nieuwe map genaamd venv in je projectdirectory aangemaakt, waarin de virtuele omgeving wordt opgeslagen.
Stap 2: Activeer de virtuele omgeving
Nu moet je de virtuele omgeving activeren:
Voor Windows:
.\venv\Scripts\Activate
Zodra de virtuele omgeving actief is, moet je voor de naam van je terminal of opdrachtprompt de naam van je virtuele omgeving (venv in dit geval) zien staan. Dit geeft aan dat de omgeving actief is.
Stap 3: requirements.txt
Tip: Het is een goed idee om een requirements.txt bestand in je project te hebben. Hierin kun je alle pakketten en hun versies noteren die voor je project nodig zijn. Dit maakt het gemakkelijker voor anderen (of voor jezelf in de toekomst) om de exacte omgeving te reproduceren. Je kunt een requirements.txt bestand maken met het volgende commando:
pip freeze > requirements.txt
En later, als je het project op een andere machine of in een andere virtuele omgeving wilt opzetten, kun je alle benodigde pakketten in รฉรฉn keer installeren met:
pip install -r requirements.txt
Modules installeren
Bij problemen met gewoon installeren de onderstaande methode gebruiken
python -m pip install PyMuPDF
โ Meer: Virtuele omgeving voor Python
Installeren
Bij problemen met gewoon installeren de onderstaande methode gebruiken
Dus โpython -m โ voor de standaard install tekst zetten
python -m pip install PyMuPDF
Instaleer dotenv om het .env bestand te kunnen lezen zodat daar de systeem variabelen in kunnen
python -m pip install python-dotenv
โ LongChain
python -m pip install langchain
โ Streamlit GUI Gebruikersinterface
python -m pip install streamlit
โ Upgrade streamlit Belangrijk omdat versie 1.28.2 moet werken en standaard versie 1.28.1 wordt geรฏnstalleerd.
pip install --upgrade streamlit
โ Installeer openAI pakket
python -m pip install openai
python -m pip install pinecone-client
โ requests (indien nodig (voor API ed.) in eerste instantie niet gebruikt)
python -m pip install requests
โ nltk โ om trefwoorden uit NLP te halen voor zoekfunctie als Pincoine geen goed antwoord heeft gevonden
python -m pip install nltk
โ Gebruik:
import nltk from nltk.corpus import stopwords from nltk.tokenize import word_tokenize
โ De eerste keer dat je de Python app start moeten er een paar dingen worden gedownload. Als het goed is staat er na het uitvoeren can de volgende code een map in je project map met de naam โnltk_dataโ.
nltk.download('punkt') nltk.download('stopwords')
โ Als de map er eenmaal staat kan de code of verwijderd worden of uit commentariรซren:
#nltk.download('punkt') #nltk.download('stopwords')
โ Voorbeeld van gebruik:
def extract_keywords(self, query): stop_words = set(stopwords.words('dutch')) word_tokens = word_tokenize(query) keywords = [word for word in word_tokens if word not in stop_words] # Vervang dubbele woorden door 1 woord keywords = list(dict.fromkeys(keywords)) # vervang "kost" door "kosten" keywords = [word.replace('kost', 'kosten') for word in keywords] # haal alle leestekens uit de lijst keywords = [word for word in keywords if word.isalnum()] # haal alle woorden als de, het, een, etc. uit de lijst keywords = [word for word in keywords if len(word) > 2] # haal alle woorden als wat, wie, waar, etc. uit de lijst keywords = [word for word in keywords if word not in ['wat', 'wie', 'waar', 'wanneer', 'hoe', 'waarom', 'kost', 'Wat', 'Wie', 'Waar', 'Wanneer', 'Hoe', 'Waarom']] # maak een string van de lijst keywords = ' '.join(keywords) return keywords
Deploy
requirements.txt
langchain PyPDF2 python-dotenv streamlit openai altair tiktoken htmltemplate pinecone-client nltk
Dockerfile
โ Meer: Docker
โ Dockerfile Aanmaken: Maak in de root van je project een bestand aan met de naam `Dockerfile` (zonder extensie). Dit bestand bevat instructies voor het bouwen van je Docker-image. Een eenvoudig voorbeeld voor een Python-applicatie kan er zo uitzien:
# Gebruik een officiรซle Python runtime als ouder image FROM python:3.11.6 # Stel de werkdirectory in de container in WORKDIR /app # Kopieer de huidige directory inhoud in de container bij /app COPY . /app # Installeer de benodigde pakketten uit requirements.txt RUN pip install --trusted-host pypi.python.org -r requirements.txt # Maak poort 8501 beschikbaar voor de wereld buiten deze container EXPOSE 8501 # Definieer het commando om de applicatie te draaien CMD ["streamlit", "run", "app.py"]
Docker-container bouwen
cat-aq-app
- Start de Docker deskTop applicatie (in windows)
- Navigeer naar de applicatie map
- Start een console
- Voer de volgende code uit om de Docker-container te bouwen
docker build -t cat-va-app .
โ Om uw Docker-container te testen, voer je het volgende commando uit:
docker run -p 8501:8501 cat-va-app
โ local url:
http://localhost:8501
http://172.17.0.2:8501 wekt niet
Project in Repositry op GitHub
Fine-tune Model Chat app
ChatOpenAI -> LangChain Ook met eigen finetune Model
Streamlit Chat elements
โ Bouw een eenvoudige LLM-chat-app
โ Bouw een LLM-app met LangChain
Emoji's
๐ ๐ฆ ๐ ๐ค โค๏ธ ๐ ๐ โ๏ธ ๐ก ๐ฅ ๐ข ๐ฆ ๐๏ธ ๐จ๏ธ ๐ญ ๐ก โน๏ธ ๐งญ ๐ฐ ๐๏ธ โ ๐ฑ โฏ๏ธ โ๏ธ ๐ง ๐ ๏ธ ๐ ๐ง โ ๏ธ ๐ โ ๐ ๐ซ ๐ช ๐ ๐ ๐ โ๏ธ ๐ ๐ช ๐ช โญ โจ ๐ ๐ฅ ๐ฅ ๐ ๐ ๐ฐ ๐ช ๐ถ ๐ณ ๐ฒ ๐ซ ๐ธ ๐ท ๐ผ๏ธ ๐ฆ ๐น ๐ณ ๐ฑ โ๏ธ ๐ ๐ฅ๏ธ ๐ง ๐ซ ๐ฉ ๐ ๐งฉ โป๏ธ โ๏ธ โ ๐ ๐ฏ โ๏ธ โ โ โ โ โ โ โ โผ๏ธ โ๏ธ ๐ท๏ธ ๐ ๐ ๐ ๐๏ธ ๐๏ธ ๐๏ธ ๐ ๐๏ธ ๐ โฐ ๐ ๐ข ๐ ๐ฌ ๐ต๏ธ ๐ค ๐ฃ๏ธ ๐ฅ ๐งโ๐ผ ๐งโโ๏ธ ๐งโ๐ซ ๐งโ๐ป ๐ ๐งโ๐ ๐ง๐ปโโ๏ธ โ๏ธ ๐คทโโ๏ธ ๐คทโโ๏ธ ๐คก ๐ด ๐ ๐ ๐ ๐ฆ ๐งฎ ๐ ๐ ๐ ๐ ๐งฌ ๐บ๏ธ ๐ ๐ โ๏ธ ๐๏ธ ๐ ๐ ๐ ๐ ๐งพ ๐ ๐ฎ ๐ ๐ ๐ ๐ ๐ ๐ ๐ ๐ธ ๐น ๐ ๐ ๐ ๐ ๐ฅ ๐ ๐ โคด๏ธ โคต๏ธ ๐ ๐ โฌ ๏ธ โก๏ธ โถ๏ธ ๐ถ ๐ ๐ ๐ โพ๏ธ ยฉ๏ธ ยฎ๏ธ โข๏ธ ๐ ๐ ๐ค ๐ โ๏ธ ๐ ๐ ๐ ๐๏ธ ๐ฃ ๐บ ๐ธ ๐ฟ ๐ ๐ ๐โโฌ ๐พ ๐ฃ ๐ฌ ๐ซฃ ๐คจ ๐ฑ ๐ค ๐ ๐ ๐ค ๐ ๐ ๐คฃ 0๏ธโฃ 1๏ธโฃ 2๏ธโฃ 3๏ธโฃ 4๏ธโฃ 5๏ธโฃ 6๏ธโฃ 7๏ธโฃ 8๏ธโฃ 9๏ธโฃ ๐