О сложности оценки работы RAG системы

Дмитрий Ченгаев 💎
Занимаюсь заказной веб-разработкой. Подписывайтесь на телеграм канал https://t.me/dchengaev ;)

Отзывы

Материалы курса

Основы работы с AI для программистов

Работа с локальными моделями

Что такое Huggingface и как им пользоваться?
Немного о выборе модели на Huggingface
О способах разворачивания локальных LLM моделей
Несколько слов о разворачивании моделей с помощью Transformers
Почему Nvidia видеокарты стали стандартом для AI
Подробнее о запуске LLM моделей с помощью библиотеки Transformers
Несколько слов о gguf LLM моделях
Какую степень сжатия использовать для GGUF моделей
Пример скрипта для запуска gguf модели
Ollama. Клиент для запуска AI моделей для не технарей.

Введение в векторные базы данных и RAG системы

Введение в векторные базы данных. Виды данных по их структуре.
Структура векторной базы данных и что в ней хранится
Что такое embedding и embedding модели
Как происходит поиск в векторной базе данных
Можно ли хранить вектора в релеационных базах данных
Зачем для работы с большими AI моделями нужна векторная база данных
Об языке программирования для векторных баз данных и примеры векторных баз данных
Что такое RAG (retrieval augmented generation)?
Чем хорош формат markdown. Почему он популярен для AI
Embedding модель - узкое горлышко RAG системы
Виды embedding моделей по способу запуска. Hugging Face. Ollama
Пример получения embedding с помощью OpenAi и Python
Пакет для рассчета количества токенов
Почему для LLM модели большой контекст - это плохо
Что такое chunks в RAG системах и зачем они нужны
О параметрах chunk_size и chunk_overlap
О важности метаданных в чанках
Пример выгрузки базы знаний из множества файлов в одну переменную
Пример преобразования чанков и сохранения их в векторной базе данных Chroma
Пример визуализации векторной базы данных
Пример поиска по векторной базе данных и выдача контекста LLM модели
Рекомендации по выбору размера chunk_size и chunk_overlap для разного типа контента
О сложности оценки работы RAG системы
Метрика MRR для оценки качества ответов RAG
Метрика nDCG
Метрика покрытия ключевых слов
Пример скрипта для оценки RAG системы

Chromadb

Знакомство с базой данных Chromadb
Что такое Client ChromaDB и их виды
PersistentClient ChromaDB
Знакомство с коллекциями Chroma
Создаем простую Client базу данных и делаем запросы к ней
О способах создания коллекций
Удаление коллекций и их свойства
Метаданные и поиск по метаданным
Пример использования PersistentClient
Пример работы с HttpClient
Пример использования сторонних embedding моделей

Gradio

Пакет для быстрого создания UI для AI (ML) задач
Пример создания простого UI. Входные и выходные данные смотреть через YouTube
Разбираем как работает элемент интерфейса Чат
Связываем чат с AI

Pinecone

Пример создания индекса в базе данных Pinecone
Пример добавления данных в Pinecone
Вставка и удаление данных. Pinecone API
Пример выполнения запросов в векторную базу данных

Langchain

Что такое LangChain и зачем это нужно
О пакетах LangChain
Простой пример запроса через LangChain к OpenAI модели langchain_openai
Работа с prompts в LangChain
Пример использования PromptTemplate на практике
О Document loaders
Пример работы с CSV и web loaders
Лоадер директорий и файлов внутри них
Splitting текста в langchain
Splitting markdown файлов
Пример создания эмбеддингов и сохранения в базе данных Chroma

Как получить доступ?

Доступ к курсу "RAG и локальные модели AI" на 1 месяц

Стоимость: 1000 ₽ (стоимость в других валютах можно уточнить у автора)

Войдите / зарегистрируйтесь на сайте, чтобы получить данные для оплаты