Ihr Guide für eigene RAG-Anwendung!Freuen Sie sich auf einen umfassenden Einstieg in die Welt der Generativen KI mit Python. Dieses Buch deckt Schlüsselkonzepte wie Large Language Models (LLMs), LangChain, Vektordatenbanken und Retrieval-Augmented-Generation (RAG) ab. Sie lernen die Grundlagen des Prompt Engineering kennen und erfahren, wie Sie Agentensysteme entwickeln und deployen.Mit praxisnahen Beispielen und klaren Erklärungen tauchen Sie tief in die Materie ein ideal für alle, die Generative KI-Lösungen mit Python umsetzen wollen.Generative KI und LLMs mit LangChain verstehen und implementierenVektordatenbanken und RAG-Anwendungen entwickelnPrompt Engineering, Agentensysteme, Deployment u. v. m.Aus dem Inhalt:Große Sprachmodelle LLMs und LMMsPrompt EngineeringSprachanalyse (NLP)VektordatenbankenLangChainHuggingFacecrewAIAutoGenOpenAI- und andere APIsAgentensystemeDeployment

»Buchtipp!«

Vorwort
KI im Unternehmenskontext GenAI, Agenten und mehr! Der Guide für RAG-Anwendungen und Agentensysteme mit Vektordatenbanken und LLMs

Autorentext
Bert Gollnick ist Senior Data Scientist mit Schwerpunkt auf künstlicher Intelligenz. Er unterrichtet Kurse zu Data Science und Machine Learning inklusive generativer KI und natürlicher Sprachverarbeitung. Bert hat an der Technischen Universität Berlin Luft- und Raumfahrttechnik und an der Universität Hagen Volkswirtschaftslehre studiert. Nach 17 Jahren in der Industrie fokussiert er sich nun auf seine Schulungsfirma, um Teilnehmern künstliche Intelligenz näherzubringen.Er lebt und arbeitet in Hamburg und bietet Präsenzkurse im deutschsprachigen Raum sowie Online-Kurse auch für ein internationales Publikum an.

Klappentext

Ihr Guide für eigene RAG-Anwendung! Als Retrieval Augmentated GenAI und in Agentensystemen nehmen die großen KI-Modelle erst so richtig Fahrt auf! Sie entfalten ihren Nutzen im konkreten Unternehmenskontext, wenn Sie auf wichtige Daten zugreifen können und sogar in der Lage sind, sich in Arbeitsabläufe einzuklinken. Sie möchten wissen, wie man solche Anwendungen baut? Dann sind Sie hier genau richtig. Nach einer Einführung in generative KI, NLP-Modelle, LLMs, LMMs, Hugging Face, Vektordatenbanken und mehr tauchen Sie tief in die Praxis ein. Profitieren Sie von den Erfahrungen unseres Autors Bert Gollnick und wählen Sie Ihre Werkzeuge geschickt aus. Hier finden Sie alles, was Sie brauchen - zum Loslegen, aber auch, wenn es etwas kniffliger wird. Aus dem Inhalt: Große Sprachmodelle - LLMs und LMMs Prompt Engineering Sprachanalyse (NLP) Vektordatenbanken LangChain HuggingFace crewAI AutoGen OpenAI- und andere APIs Agentensysteme Deployment

Inhalt

Materialien zum Buch ... 13
1. Vorwort ... 15

1.1 ... Zielsetzung des Buches ... 16
1.2 ... Zielgruppe ... 17
1.3 ... Was Sie schon wissen sollten ... 18
1.4 ... Struktur des Buches ... 18
1.5 ... Wie man dieses Buch effektiv nutzt ... 22
1.6 ... Code zum Herunterladen und weitere Materialien ... 23
1.7 ... Systemeinrichtung ... 23
1.8 ... Danksagung ... 30
1.9 ... Konventionen in diesem Buch ... 30

2. Einführung in die generative KI ... 33

2.1 ... Einführung in die künstliche Intelligenz ... 36
2.2 ... Die Säulen des Fortschritts in der generativen KI ... 40
2.3 ... Deep Learning ... 43
2.4 ... Schwache und allgemeine KI ... 46
2.5 ... Natural Language Processing (NLP) ... 49
2.6 ... Large Language Models (LLMs) ... 55
2.7 ... Use-Cases ... 57
2.8 ... Die Grenzen von LLMs ... 59
2.9 ... Large Multimodal Models (LMMs) ... 60
2.10 ... Generative KI-Anwendungen ... 62
2.11 ... Zusammenfassung ... 64

3. Vortrainierte Modelle ... 67

3.1 ... Was sind vortrainierte Modelle? ... 69
3.2 ... Hugging Face ... 69
3.3 ... Modellauswahl ... 70
3.4 ... Coding: Textzusammenfassung ... 71
3.5 ... Übung: Übersetzung ... 73
3.6 ... Coding: Zero-Shot-Klassifikation ... 74
3.7 ... Coding: Füllmaske ... 78
3.8 ... Coding: Frage-Antwort Modelle ... 79
3.9 ... Coding: Erkennung bekannter Entitäten (Named Entity Recognition) ... 81
3.10 ... Coding: Text-zu-Bild ... 83
3.11 ... Übung: Text-zu-Audio ... 85
3.12 ... Abschlussprojekt: Kunden-Feedback analysieren ... 86
3.13 ... Zusammenfassung ... 89

4. Large Language Models ... 91

4.1 ... Eine kurze Geschichte der Sprachmodelle ... 92
4.2 ... LLMs mithilfe von Python nutzen ... 93
4.3 ... Modellparameter ... 107
4.4 ... Modellauswahl ... 111
4.5 ... Messages ... 115
4.6 ... Prompt Templates ... 116
4.7 ... Chains ... 120
4.8 ... LLM-Schutz und -Sicherheit ... 135
4.9 ... Modellverbesserungen ... 143
4.10 ... Neue Trends ... 144
4.11 ... Zusammenfassung ... 151

5. Prompt Engineering ... 153

5.1 ... Prompting -- die Grundlagen ... 154
5.2 ... Coding: Few-Shot Prompting ... 163
5.3 ... Chain-of-Thought ... 166
5.4 ... Zero-Shot Chain-of-Thought ... 166
5.5 ... Coding: Self-Consistency Chain-of-Thought ... 167
5.6 ... Coding: Prompt-Chaining ... 171
5.7 ... Coding: Self-Feedback ... 173
5.8 ... Zusammenfassung ... 178

6. Vektordatenbanken ... 181

6.1 ... Einleitung ... 181
6.2 ... Der Data-Ingestion-Prozess ... 184
6.3 ... Dokumente importieren ... 185
6.4 ... Dokumente aufteilen ... 193
6.5 ... Einbettungen erstellen ... 209
6.6 ... Daten speichern ... 225
6.7 ... Daten abrufen ... 231
6.8 ... Abschlussprojekt ... 238
6.9 ... Zusammenfassung ... 251

7. Retrieval-Augmented Generation ... 253

7.1 ... Einleitung ... 254
7.2 ... Ein einfaches System zur Retrieval-Augmented Generation ... 258
7.3 ... Fortgeschrittene Techniken ... 265
7.4 ... Coding: Prompt-Caching ... 287
7.5 ... Evaluierung ... 293
7.6 ... Zusammenfassung ... 299

8. Agentensysteme ... 301

8.1 ... Einführung in KI-Agenten ... 302
8.2 ... Verfügbare Frameworks ... 304
8.3 ... Einfache Agentensysteme ... 306
8.4 ... Agenten-Framework: LangGraph ... 314
8.5 ... Agenten-Framework: AG2 ... 330
8.6 ... Agenten-Framework: CrewAI ... 346
8.7 ... Agenten-Framework: OpenAI Agents ... 374
8.8 ... Agenten-Framework: Pydantic AI ... 379
8.9 ... Überwachung von Agentensytemen ... 382
8.10 ... Zusammenfassung ... 388

9. Deployment ... 391

9.1 ... Die Anwendungsarchitektur ... 392
9.2 ... Die Deploymentstrategie ... 394
9.3 ... Entwicklung einer eigenständigen Anwendung ... 403
9.4 ... Deployment auf Heroku ... 410
9.5 ... Deployment auf Streamlit.io ... 419
9.6 ... Deployment auf Render ... 421
9.7 ... Zusammenfassung ... 424

10. Ausblick ... 427

10.1 ... Fortschritte in der Modellarchitektur ... 427
10.2 ... Limitierungen und Probleme von LLMs ... 428
10.3 ... Regulatorische Entwicklungen ... 434
10.4 ... Künstliche allgemeine Intelligenz und künstliche Super-Intelligenz ... 434
10.5 ... KI-Fähigkeiten in der nahen Zukunft ... 435
10.6 ... Hilfreiche Ressourcen ... 438
10.7 ... Zusammenfassung ... 439

Über den Autor ... 441
Index ... 443