Hồi quy và AI trong thực tiễn
Đã giới thiệu| English | Ý nghĩa |
|---|---|
| regression/rɪˈɡreʃn/ | hồi quy |
| classification/ˌklæsɪfɪˈkeɪʃn/ | phân loại |
| linear regression/ˈlɪnɪə rɪˈɡreʃn/ | hồi quy tuyến tính |
| OCR/ˌəʊ siː ˈɑː/ | nhận dạng ký tự quang học |
Dự đoán một con số, không phải tên gọi
- Hỏi mô hình "đây có phải email rác không?" và nó phải chọn từ một tập đáp án cố định. Hỏi nó "ngôi nhà này sẽ bán được bao nhiêu tiền?" và không có tập nào để chọn: câu trả lời là một con số, và sai lệch một nghìn bảng cũng gần như đúng.
- Đó là hai tác vụ khác nhau, và nhầm lẫn chúng là lỗi phổ biến nhất trong chủ đề này. Cả hai đều là học có giám sát; chỉ có dạng của câu trả lời là khác biệt.
- Bài học này là hồi quy so với phân loại, cách hồi quy tuyến tính chọn đường thẳng của nó, và cách các sản phẩm thực tế nối chuỗi các mô hình đã huấn luyện thành một pipeline.
Hồi quy và phân loại
- Phân loại dự đoán một thể loại từ một tập cố định: mèo hay chó, email rác hay không, trong mười chữ số.
- Hồi quy dự đoán một con số trên thang liên tục: giá nhà, nhiệt độ ngày mai, thời gian chuyến đi sẽ mất bao lâu.
- Cả hai đều là có giám sát: cả hai đều học từ các ví dụ có nhãn. Sự lựa chọn giữa chúng được quyết định bởi một câu hỏi: liệu câu trả lời là một nhãn hay một con số?
- Sự phân biệt này thay đổi cách bạn đo lường thành công. Một bộ phân loại đúng hoặc sai; một bộ hồi quy sai lệch một khoảng cách nhất định, đó là lý do hàm mất mát của chúng khác nhau.
Sự khác biệt giữa hồi quy và phân loại là hồi quy dự đoán:
Difficulty 1/5 · 100 coins + a small bonus on first completion today
Hồi quy đầu ra là một số liên tục (giá, nhiệt độ); phân loại đầu ra là một danh mục.
Hồi quy dự đoán một số liên tục (giá, nhiệt độ), trong khi phân loại dự đoán một danh mục (mèo hay chó).
Difficulty 1/5 · 100 coins + a small bonus on first completion today
Số đầu ra = hồi quy; danh mục đầu ra = phân loại — hai loại dự đoán có giám sát chính.
Ví dụ minh họa: tác vụ nào là tác vụ nào
- Dự đoán người mua hàng thuộc loại khách hàng nào trong năm loại. Phân loại: câu trả lời là một trong các thể loại cố định.
- Dự đoán người mua hàng đó sẽ chi tiêu bao nhiêu vào tháng tới. Hồi quy: câu trả lời là một con số, và việc gần đúng được coi là gần như chính xác.
- Dự đoán máy móc có bị hỏng trong tuần tới không. Phân loại: có hoặc không. Dự đoán mất bao nhiêu ngày trước khi máy hỏng. Hồi quy.
- Cùng một nguồn dữ liệu nền tảng có thể phục vụ cho cả hai. Hãy đọc câu hỏi đang được đặt ra, chứ không phải chủ đề nội dung.
Nối mỗi nhiệm vụ dự đoán với loại của nó.
Difficulty 2/5 · 140 coins + a small bonus on first completion today
Cùng một dữ liệu có thể phục vụ cho cả hai. Đọc kỹ câu hỏi: nhãn từ một tập cố định, hay một số trên thang đo.
Hồi quy tuyến tính
- Hồi quy tuyến tính khớp một đường thẳng, hoặc một mặt phẳng phẳng khi có nhiều đầu vào:
- Các hệ số được chọn để giảm thiểu tổng bình phương sai số giữa các dự đoán của đường thẳng và các giá trị thực tế trong tập huấn luyện.
- Bình phương, vì hai lý do mà kỳ thi chấp nhận: các sai số ở trên và dưới đường thẳng lúc đó không thể triệt tiêu lẫn nhau, và một sai số lớn bị phạt nặng hơn nhiều so với vài sai số nhỏ.
Đường thẳng để lại tổng khoảng cách bình phương ít nhất
Phù hợp đường hồi quy
Kéo các điều khiển. Hồi quy tuyến tính vẽ đường thẳng làm cho tổng bình phương khoảng cách đến các điểm dữ liệu là nhỏ nhất — sau đó nó dự đoán một con số cho bất kỳ đầu vào mới nào.
Hồi quy tuyến tính chọn hệ số của nó để:
Difficulty 1/5 · 100 coins + a small bonus on first completion today
Nó phù hợp đường thẳng/mặt phẳng hyperplane làm cho tổng bình phương chênh lệch so với các điểm dữ liệu là nhỏ nhất.
Tại sao hồi quy tuyến tính lại giảm thiểu tổng BÌNH PHƯƠNG sai số thay vì tổng sai số thông thường?
Difficulty 1/5 · 100 coins + a small bonus on first completion today
Cả hai lý do đều được chấp nhận. Không có phép bình phương, một đường thẳng có thể có sai số rất lớn phía trên và dưới nhưng vẫn đạt điểm số bằng không.
Khi nào một đường thẳng là mô hình phù hợp
- Sử dụng hồi quy tuyến tính khi mối quan hệ trông khoảng tuyến tính và bạn muốn một mô hình mà con người có thể đọc hiểu: mỗi hệ số cho biết đầu vào đó quan trọng thế nào, và theo hướng nào.
- Khi dữ liệu cong, cùng một ý tưởng vẫn áp dụng với một mô hình khác: hồi quy đa thức, cây quyết định, hoặc mạng nơ-ron. Trong mọi trường hợp, công thức đều giống nhau, chọn một mô hình, định nghĩa một hàm mất mát, giảm thiểu nó.
- Công thức đó là thứ kết nối bài học này với bài học trước: descent theo gradient đơn giản là cách thực hiện việc giảm thiểu khi không có công thức cho câu trả lời.
AI trong sản phẩm thực tế
- Các hệ thống thực tế hiếm khi sử dụng một mô hình duy nhất. Chúng nối chuỗi nhiều mô hình đã huấn luyện thành một pipeline, mỗi mô hình thực hiện một bước.
- Nhận diện khuôn mặt tại cửa ra vào: camera chụp một khuôn mặt, nhận diện hình ảnh chuyển đổi nó thành biểu diễn số, và biểu diễn đó được đối chiếu với các biểu diễn của những người đã đăng ký.
- Đọc to biển báo cho du khách: nhận diện hình ảnh định vị văn bản, OCR biến các pixel thành ký tự, dịch máy chuyển đổi các từ, và chuyển đổi văn bản thành giọng nói tạo ra âm thanh.
- Kỳ thi đưa ra một tình huống và hỏi các mô hình nào được sử dụng, theo thứ tự. Hãy nêu tên giai đoạn và những gì nó tạo ra cho giai đoạn tiếp theo.
Nối mỗi ý tưởng AI với ý nghĩa của nó.
Difficulty 2/5 · 140 coins + a small bonus on first completion today
Huấn luyện phù hợp mô hình một lần; suy diễn là dự đoán nhanh chóng mỗi khi người dùng tương tác.
Tính năng "đọc to bảng hiệu" thường kết nối những mô hình nào?
Difficulty 1/5 · 100 coins + a small bonus on first completion today
Nhiều mô hình đã huấn luyện tạo thành một đường ống: tìm văn bản, trích xuất ký tự, dịch, sau đó phát âm.
Xếp thứ tự các giai đoạn của ứng dụng đọc to bảng hiệu nước ngoài.
Difficulty 3/5 · 200 coins + a small bonus on first completion today
Nhiều mô hình đã huấn luyện được nối tiếp nhau, mỗi mô hình truyền đầu ra của mình cho mô hình tiếp theo. Hãy nêu tên giai đoạn và sản phẩm của nó.
Ví dụ minh họa: huấn luyện so với suy luận
- Một ứng dụng điện thoại nhận diện cây từ bức ảnh ngay lập tức, nhưng việc huấn luyện mô hình của nó đã mất vài tuần trên nhiều máy tính. Giải thích tại sao.
- Huấn luyện chạy lặp lại các lượt lan truyền tiến và lùi trên một tập dữ liệu có nhãn rất lớn, điều chỉnh hàng triệu trọng số qua nhiều epoch. Đó là thứ đã mất vài tuần.
- Suy diễn (Inference), sử dụng mô hình đã huấn luyện, là một lượt truyền tiến duy nhất qua mạng nơ-ron có trọng số cố định: nhân, cộng, kích hoạt, từng lớp một lần.
- Trí thông minh nằm ở các trọng số đã học, đó là lý do mô hình hoàn thiện đủ nhỏ và đủ nhanh để triển khai trên điện thoại.
Sử dụng mô hình đã huấn luyện để đưa ra dự đoán chỉ yêu cầu một lượt ____ duy nhất.
Difficulty 1/5 · 100 coins + a small bonus on first completion today
Huấn luyện lặp lại các lượt đi trước và đi ngược trên tập dữ liệu khổng lồ; suy diễn chạy các trọng số cố định một lần, đó là lý do nó tức thì.
Điểm số dễ mất
- Phân loại cho ra một danh mục, hồi quy cho ra một con số. Cả hai đều có giám sát; đó không phải là điểm khác biệt.
- Hồi quy tuyến tính tối thiểu hóa tổng bình phương sai số, không phải "tổng khoảng cách". Hãy nói rõ là bình phương và giải thích tại sao.
- Câu trả lời về quy trình phải liệt kê các bước theo thứ tự và nêu rõ mỗi bước chuyển giao gì cho bước tiếp theo.
- Huấn luyện bao gồm nhiều lượt truyền tiến và truyền ngược; suy diễn chỉ là một lượt truyền tiến. Đừng mô tả quá trình huấn luyện khi câu hỏi hỏi về ứng dụng.
Bạn đã nắm vững
- Phân loại dự đoán một danh mục, hồi quy dự đoán một con số; cả hai đều có giám sát, và dạng câu trả lời của đề bài sẽ quyết định loại nào được chọn.
- Hồi quy tuyến tính khớp $y = m_1x_1 + \ldots + c$ bằng cách tối thiểu hóa tổng bình phương sai số, nên sai số không thể triệt tiêu lẫn nhau và sai số lớn bị phạt nặng.
- Dữ liệu cong cần mô hình khác, nhưng công thức không đổi: chọn mô hình, xác định hàm mất mát, tối thiểu hóa nó.
- Sản phẩm thực tế kết nối các mô hình: nhận diện hình ảnh, OCR, dịch thuật và tổng hợp giọng nói; huấn luyện là nhiều lượt truyền tiến và truyền ngược, suy diễn là một lượt truyền tiến.