Tác nhân thông minh
Hàm mục tiêu

Xem thêm thông tin: hàm thỏa dụng (kinh tế học)và hàm mất mát (toán học)
Một tác nhân được gán một "hàm mục tiêu" rõ ràng sẽ được coi là thông minh hơn nếu nó luôn thực hiện các hành động để tối đa hóa thành công hàm mục tiêu được lập trình. Mục tiêu có thể đơn giản ("1 nếu IA thắng một ván cờ vây, 0 nếu không") hoặc phức tạp ("Thực hiện các hành động tương tự về mặt toán học với những hành động đã thành công trước đây"). "Hàm mục tiêu" bao gồm tất cả các mục tiêu mà tác nhân hướng tới để thực hiện; đối với các tác nhân hợp lý, hàm này cũng bao gồm các đánh đổi chấp nhận được giữa việc hoàn thành các mục tiêu mâu thuẫn nhau. (Thuật ngữ có thể khác nhau; ví dụ, một số tác nhân tìm cách tối đa hóa hoặc tối thiểu hóa một "hàm thỏa dụng", "hàm mục tiêu", hoặc "hàm mất mát".)
Các mục tiêu có thể được xác định rõ ràng hoặc được suy luận. Nếu AI được lập trình cho "học tăng cường", nó sẽ có một "hàm thưởng" khuyến khích một số loại hành vi và trừng phạt các hành vi khác. Ngoài ra, một hệ thống tiến hóa có thể suy luận mục tiêu bằng cách sử dụng một "hàm đánh giá" (hoặc "hàm thích nghi") để biến đổi và tái tạo các hệ thống AI có điểm số cao, tương tự như cách động vật tiến hóa để mong muốn những mục tiêu như tìm kiếm thức ăn. Một số hệ thống AI, chẳng hạn như phương pháp láng giềng gần nhất, thay vì suy luận bằng cách tương tự, những hệ thống này thường không được gán mục tiêu, ngoại trừ mức độ mà mục tiêu được ngầm định trong dữ liệu huấn luyện của chúng. Những hệ thống này vẫn có thể được đánh giá chuẩn nếu hệ thống không có mục tiêu được định hình như một hệ thống mà "mục tiêu" của nó là hoàn thành nhiệm vụ phân loại hẹp của nó.
Các hệ thống không được coi là tác nhân truyền thống, chẳng hạn như các hệ thống biểu diễn tri thức, đôi khi được đưa vào mô hình bằng cách coi chúng là các tác nhân có mục tiêu (ví dụ: trả lời câu hỏi chính xác nhất có thể); khái niệm về "hành động" ở đây được mở rộng để bao gồm "hành vi" trả lời một câu hỏi. Như một phần mở rộng bổ sung, các hệ thống dựa trên mô phỏng có thể được coi là các tác nhân đang tối ưu hóa một "hàm mục tiêu" dựa trên mức độ mà IA thành công trong việc bắt chước hành vi mong muốn. Trong mạng đối nghịch tạo sinh của những năm 2010, một thành phần "mã hóa"/"tạo sinh" cố gắng bắt chước và ứng biến việc sáng tác văn bản của con người. Bộ tạo sinh cố gắng tối đa hóa một hàm bao gồm khả năng lừa dối một thành phần đối kháng là "dự đoán"/"phân biệt".
Mặc dù các hệ thống AI cổ điển thường chấp nhận một hàm mục tiêu rõ ràng, mô hình này cũng có thể được áp dụng cho mạng thần kinh nhân tạo và "tính toán tiến hóa" (evolutionary computation). Học tăng cường có thể tạo ra các tác nhân thông minh nhằm tối đa hóa một "hàm thưởng". Đôi khi, thay vì đặt hàm thưởng bằng với hàm đánh giá chuẩn mong muốn, lập trình viên học máy sẽ cho máy phần thưởng khi có tiến bộ trong học tập. Yann LeCun đã phát biểu vào năm 2018 rằng "Hầu hết các thuật toán học tập mà mọi người đã nghĩ ra về cơ bản đều nhằm mục đích tối thiểu hóa một số hàm mục tiêu." Trò chơi cờ vua của "AlphaZero" có một hàm mục tiêu đơn giản; mỗi lần thắng được tính là +1 điểm, và mỗi lần thua được tính là -1 điểm. Một hàm mục tiêu cho xe tự lái sẽ phải phức tạp hơn. Tính toán tiến hóa có thể phát triển các tác nhân thông minh như việc hành động nhằm tối đa hóa một "hàm thích nghi" ảnh hưởng đến số lượng hậu duệ mà mỗi tác nhân được phép để lại.
Hình thức toán học của AIXI đã được đề xuất như một tác nhân thông minh tối đa trong mô hình này. Tuy nhiên, AIXI là "không tính toán được". Trong thế giới thực, IA bị hạn chế bởi thời gian và tài nguyên phần cứng hữu hạn, và các nhà khoa học cạnh tranh để tạo ra các thuật toán có thể đạt điểm số cao hơn trên các bài kiểm tra chuẩn với phần cứng hiện có.