LLM, Model, Token, Context Window

LLM → Prompt Để dễ hình dung, chúng ta có thể xem AI System như kiến trúc Client - Server: IDE Chat Window (Nơi bạn nhập Prompt) ↔ Context Window (Vùng nhớ đệm xử lý Token) ↔ LLM (Bộ não đã được train) LLM (Large Language Model) LLM là một mô hình ngôn ngữ lớn, bản chất nó là mạng nơ-ron nhân tạo (Neural Network) khổng lồ được huấn luyện trên lượng dữ liệu cực lớn (dữ liệu chữ, ảnh,...). Với các Developer: Source code → Compile → Binary (.exe) Với LLM: Hàng nghìn tỷ token dữ liệu → Training → LLM Với các Developer Source code → Compile → Binary (.exe) Với LLM Hàng nghìn tỷ token dữ liệu → Training → LLM Sau khi train xong Dữ liệu gốc không còn dược lưu nguyên vẹn Model chỉ giữ lại các weights Các weights này chứa những thứ mà model đã học được L