LLM Ecosystem Note

2024-05-23

筆記 Large Language Model 開發與應用生態系的相關工具、框架與平台應用。

介紹

Hugging Face
LM Studio 運行地端 LLM 的 GUI 環境與轉換為 API 服務
Ollama CLI 方式快速讓地端 LLM 轉換為 API 服務

AI Agent

LangChain
LlamaIndex
CrewAI
Anything LLM

Model

LLM Learder Board

Llama3 | Facebook
Phi-3 | Microsoft
TAIDE-LX-7B-Chat
Taiwan LLM
Breeze-7B
MeloTTS
Whisper | OpenAI
DeepSeek-Code2-V2

TTS

Fish Speech 人聲合成
SoftVC
Retrieval-based-Voice-Conversion-WebUI 變聲
Uvr5 人聲與背景音分離

User Interface

lobe-chat
Open WebUI
Streamlit
Gradio

Deep Learning

Bert
Transformer
RAG (Retrieval-Augmented Generation)
Embeddings

AI Tools

Top AI by Revenue
perplexity
Google NotebookLM
Claude Artifacts

Learning Resources

生成式AI導論 2024 | 李宏毅

Generative AI for Beginners | Microsoft

運用Semantic Kernel SDK 駕馭生成式AI應用的提示工程(Prompt Engineering | 陳葵懋 (Ian Chen)

從教材的生成，學習 GPTs 開發」課綱（學生版） | ted chen

淺談 Generative AI Engineer 和 LLM 應用開發 Roadmap | iHower C.

RAG 開發知識庫 | iHower C.

Future Web Tools