Trí tuệ nhân tạo (AI: Artificial Intelligence) là một lĩnh vực của khoa học máy
tính, là thành quả mô phỏng các quá trình, hoạt động trí tuệ của bộ não con người
(học tập, tư duy và ra quyết định) bằng máy móc, đặc biệt là các hệ thống máy tính.
AI được áp dụng rộng rãi trong nhiều lĩnh vực, từ phân loại đối tượng, thị giác máy
tính đến xử lý ngôn ngữ tự nhiên , trong đó có nhận dạng và ước lượng hướng đến
tín hiệu vô tuyến [8], [27], [38], [42], [84], [93].
Học máy (ML: Machine learning) là các thuật toán cho phép chương trình máy
tính có khả năng tự động học hỏi từ dữ liệu để thực hiện các công việc cụ thể và cải
thiện khả năng đó từ kinh nghiệm, quan sát trong quá khứ thay vì chỉ thực hiện theo
đúng các quy tắc đã được lập trình sẵn [103].
Các thuật toán học máy có thể được phân loại thành ba dạng chính: học có giám
sát (supervised learning) [86], học không giám sát (unsupervised learning) [22], [23],
[101] và học tăng cường (reinforcement learning) [70]. Với học có giám sát, các mẫu
dữ liệu được cung cấp nhãn (label), tức là đã được phân loại hoặc được gán nhãn
trước. Với học không giám sát, mục tiêu của thuật toán là tìm ra các cấu trúc, mối
quan hệ hoặc đặc điểm của dữ liệu. Ví dụ về học không giám sát bao gồm: phân cụm
(clustering) và phát hiện bất thường (anomaly detection). Trong học tăng cường, hệ
thống học tập phải tương tác với một môi trường để đạt được một mục tiêu hoặc tối
đa hóa một phần thưởng. Thuật toán học tăng cường có thể được ứng dụng cho bài
toán lái xe tự động (autonomous driving) hay trong các trò chơi điện tử (video game).
Ngoài các thuật toán trên, còn có các thuật toán kết hợp như học bán giám sát (Semisupervised
Learning) [23] và học trực tuyến (Online Learning) [52].