Lớp học ứng dụng AI cho lập trình viên 02 - AI for devs 02

Notebook:<a target="_blank" rel="noopener noreferrer nofollow" href="https://colab.research.google.com/drive/16NXm5CMgEDZZh_fU_NAfR1LQqvUUI-GF?usp=sharing">https://colab.research.google.com/drive/16NXm5CMgEDZZh_fU_NAfR1LQqvUUI-GF?usp=sharing</a>Client:<a target="_blank" rel="noopener noreferrer nofollow" href="https://github.com/bangoc123/protonx-ai-app-UI/blob/main/src/app/%5Blocale%5D/ai/chat/speech-recognition/client.tsx">https://github.com/bangoc123/protonx-ai-app-UI/blob/main/src/app/%5Blocale%5D/ai/chat/speech-recognition/client.tsx</a>

Whisper

API:<a target="_blank" rel="noopener noreferrer nofollow" href="https://colab.research.google.com/drive/1WhMHTNKCb3czrADRZBg-tgTAl9Lwrrij?usp=sharing">https://colab.research.google.com/drive/1WhMHTNKCb3czrADRZBg-tgTAl9Lwrrij?usp=sharing</a>Test API:<a target="_blank" rel="noopener noreferrer nofollow" href="https://colab.research.google.com/drive/1GOB3g8ixqyGwtHHs4zoxHVRatu0WQZNh?usp=sharing">https://colab.research.google.com/drive/1GOB3g8ixqyGwtHHs4zoxHVRatu0WQZNh?usp=sharing</a>

Từ ảnh chuyển thành Video

Nội dung

[AI-for-devs-01] Zoom 19-8-2024 - Video

Video

<ul><li>API Tech to Speech</li><li>API Speech to Text</li><li>API video</li></ul>

Sử dụng API liên quan tới âm thanh + Video

Cách chạy các Demo

Sử dụng thành thục các API của ChatGPT<ul><li>GPT 3.5 Turbo</li><li>GPT-4 and GPT-4 Turbo</li><li>GPT-4o</li></ul>Sử dụng thành thục các API AI của Google<ul><li>API Gemini</li></ul>API các mô hình Open Source<ul><li>API LLAMA thông qua Together AI</li></ul>

Sử dụng API liên quan tới văn bản

<ul><li>Giới thiệu kỹ thuật Prompt Engineering</li><li>Setup client giao tiếp với Backend</li></ul>

Kỹ thuật Prompt Engineering

API<ul><li>DALL E</li><li>Midjourney</li><li>Stability AI<ul><li>Ứng dụng Edit đối tượng trong ảnh</li><li>Ứng dụng chuyển phác thảo thành ảnh</li><li>Ứng dụng Sinh ảnh</li></ul></li></ul>

Sử dụng API liên quan tới hình ảnh

<ul><li>Docker là gì?</li><li>Phân biệt image và container</li><li>Cài đặt Docker</li><li>Xây dựng Docker Image và chạy docker Container</li><li>Docker container</li></ul>

Docker + Cloud

Xem kỹ hướng dẫn <a target="_blank" rel="noopener noreferrer nofollow" href="https://docs.google.com/presentation/d/1LH4eYQVe5wVYat3O5dTfdE39q5qlsWqyf-5RP6W8YUc/edit?usp=sharing">tại đây</a>.Trong bài có 4 TODO mỗi TODO 40 điểm

Bài tập 2 - Xây dựng ứng dụng phân đoạn hình ảnh với SAM 2

<ul><li>Hướng dẫn sử dụng Colab + Ngrok để tạo Endpoint cho API</li><li>Cách sử dụng mô hình có sẵn trên HuggingFace: Mô hình Gemma 2 + LLAMA 3</li><li>Training model đơn giản phân loại với Pytorch</li><li>Đóng gói mô hình phân loại với Docker</li></ul>

Sử dụng mô hình có sẵn

Deploy riêng mô hình với Docker + Cloud

<ul><li>Generating Synthetic Dataset cho RAG</li><li>Semantinc Router</li><li>Reflection</li><li>Graph trong RAG</li><li>Đọc paper GraphRAG</li><li>Xây dựng Graph bằng Neo4J và thiết kế RAG dựa trên Graph này</li></ul>

RAG và xây dựng hệ thống Chatbot hiện đại

<ul><li>Hướng dẫn Crawl dữ liệu từ trang Web bất kỳ</li><li>Hướng dẫn sử dụng MongoDB</li></ul>

[Bổ trợ thêm] MongoDB + Crawl dữ liệu

<ul><li>Thực hành Langchain + LLAMA Index</li><li>Xây dựng hệ thống RAG hoàn toàn Open Source</li><li>Các công cụ xây dựng:<ul><li>Ollama để chạy mô hình</li><li>Langchain để xây quy trình truy xuất thông tin</li></ul></li><li>Học sâu về Chunking hiệu quả</li><li>Đo lường hệ thống retrieval</li></ul>

Thực hành Langchain + LLAMA Index + Học sâu về Chunking

4 TODO = 40 điểm<a target="_blank" rel="noopener noreferrer nofollow" href="https://docs.google.com/presentation/d/1lYXAraE_O5bvDZkLd7PQgRUXmqjo7Fh-RcNfhdpRRqY/edit?usp=sharing">https://docs.google.com/presentation/d/1lYXAraE_O5bvDZkLd7PQgRUXmqjo7Fh-RcNfhdpRRqY/edit?usp=sharing</a>

Bài tập 4 - Lập trình LLMs Playground

<ul><li>Công cụ Gradio/StreamLit</li><li>Lập trình giao diện mẫu bằng ReactJS/NextJS</li><li>Kết nối giao diện với API</li><li>Streaming Data từ API lên giao diện</li><li>Các giao diện mẫu<ul><li>Giao diện Chatbot</li><li>Giao diện sinh ảnh</li></ul></li></ul>

Lập trình giao diện 

<ul><li>Tự đào tạo mô hình GPT</li><li>Tự đào tạo mô hình LLAMA</li><li>Cách đào tạo phân tán</li></ul>

Sử dụng API liên quan tới âm thanh + Video

1. Nội dung

1.1. Whisper

1.2. Từ ảnh chuyển thành Video

2. Video

2.1. [AI-for-devs-01] Zoom 19-8-2024 - Video