Lớp học ứng dụng AI cho lập trình viên 03 - AI for devs 03

Notebook:<a target="_blank" rel="noopener noreferrer nofollow" href="https://colab.research.google.com/drive/16NXm5CMgEDZZh_fU_NAfR1LQqvUUI-GF?usp=sharing">https://colab.research.google.com/drive/16NXm5CMgEDZZh_fU_NAfR1LQqvUUI-GF?usp=sharing</a>Client:<a target="_blank" rel="noopener noreferrer nofollow" href="https://github.com/bangoc123/protonx-ai-app-UI/blob/main/src/app/%5Blocale%5D/ai/chat/speech-recognition/client.tsx">https://github.com/bangoc123/protonx-ai-app-UI/blob/main/src/app/%5Blocale%5D/ai/chat/speech-recognition/client.tsx</a>

Whisper

API:<a target="_blank" rel="noopener noreferrer nofollow" href="https://colab.research.google.com/drive/1WhMHTNKCb3czrADRZBg-tgTAl9Lwrrij?usp=sharing">https://colab.research.google.com/drive/1WhMHTNKCb3czrADRZBg-tgTAl9Lwrrij?usp=sharing</a>Test API:<a target="_blank" rel="noopener noreferrer nofollow" href="https://colab.research.google.com/drive/1GOB3g8ixqyGwtHHs4zoxHVRatu0WQZNh?usp=sharing">https://colab.research.google.com/drive/1GOB3g8ixqyGwtHHs4zoxHVRatu0WQZNh?usp=sharing</a>

Từ ảnh chuyển thành Video

Zoom 17-8-2024 - Video

Nội dung

<ul><li>API Tech to Speech</li><li>API Speech to Text</li><li>API video</li></ul>

Sử dụng API liên quan tới âm thanh + Video

Sử dụng thành thục các API của ChatGPT<ul><li>GPT 3.5 Turbo</li><li>GPT-4 and GPT-4 Turbo</li><li>GPT-4o</li></ul>Sử dụng thành thục các API AI của Google<ul><li>API Gemini</li></ul>API các mô hình Open Source<ul><li>API LLAMA thông qua Together AI</li></ul>

Sử dụng API liên quan tới văn bản

<ul><li>Công cụ Gradio/StreamLit</li><li>Lập trình giao diện mẫu bằng ReactJS/NextJS</li><li>Kết nối giao diện với API</li><li>Streaming Data từ API lên giao diện</li><li>Các giao diện mẫu<ul><li>Giao diện Chatbot</li><li>Giao diện sinh ảnh</li></ul></li></ul>

Lập trình giao diện 

Mọi thứ về lớp học

<ul><li>Giới thiệu kỹ thuật Prompt Engineering</li><li>Setup client giao tiếp với Backend</li></ul>

Kỹ thuật Prompt Engineering

API<ul><li>DALL E</li><li>Midjourney</li><li>Stability AI<ul><li>Ứng dụng Edit đối tượng trong ảnh</li><li>Ứng dụng chuyển phác thảo thành ảnh</li><li>Ứng dụng Sinh ảnh</li></ul></li></ul>

Sử dụng API liên quan tới hình ảnh

<ul><li>Hướng dẫn sử dụng Colab + Ngrok để tạo Endpoint cho API</li><li>Cách sử dụng mô hình có sẵn trên HuggingFace: Mô hình Gemma 2 + LLAMA 3</li><li>Training model đơn giản phân loại với Pytorch</li><li>Đóng gói mô hình phân loại với Docker</li></ul>

Tùy biến mô hình và deploy riêng

<ul><li>Docker là gì?</li><li>Phân biệt image và container</li><li>Cài đặt Docker</li><li>Xây dựng Docker Image và chạy docker Container</li><li>Docker container</li></ul>

Docker + Cloud

Deploy riêng mô hình với Docker + Cloud

<ul><li>Generating Synthetic Dataset cho RAG</li><li>Semantic Router</li><li>Reflection</li><li>Graph trong RAG</li><li>Đọc paper GraphRAG</li><li>Xây dựng Graph bằng Neo4J và thiết kế RAG dựa trên Graph này</li></ul>

RAG và xây dựng hệ thống Chatbot hiện đại

<ul><li>Xây dựng đồ thị tri thức Knowledge graph từ văn bản</li><li>Thực hành RAG sử dụng Cypher Query trên Neo4j</li><li>Xây dựng Embeddings sử dụng Graph Convolution Network</li><li>Các trending về RAG trên đồ thị</li></ul>

Rag trên đồ thị - Graph RAG

<ul><li>Hướng dẫn Crawl dữ liệu từ trang Web bất kỳ</li><li>Hướng dẫn sử dụng MongoDB</li></ul>

[Bổ trợ thêm] MongoDB + Crawl dữ liệu

<ul><li>Thực hành Langchain</li><li>Xây dựng hệ thống RAG hoàn toàn Open Source</li><li>Các công cụ xây dựng:<ul><li>Ollama để chạy mô hình</li><li>Langchain để xây quy trình truy xuất thông tin</li></ul></li></ul>

Thực hành Langchain

<ul><li>Agents là gì?</li><li>LLM Agents</li><li>Đọc nghiên cứu ReAct</li><li>Kỹ thuật Prompt Engineering</li><li>Đào tạo LLMs để trở thành Agents</li></ul>

Agents và các bài toán liên quan

<ul><li>Tự đào tạo mô hình GPT</li><li>Tự đào tạo mô hình LLAMA</li><li>Cách đào tạo phân tán</li></ul>

Sử dụng API liên quan tới âm thanh + Video

1. Nội dung

1.1. Whisper

1.2. Từ ảnh chuyển thành Video

1.3. Zoom 17-8-2024 - Video