Học liên kết

Học liên kết (tiếng Anh: Federated learning) là một phương pháp học máy nhằm giúp nhiều người dùng khác nhau (còn gọi là client) cùng nhau đào tạo một mô hình chung sao cho dữ liệu của từng người dùng không bao giờ rời khỏi thiết bị cá nhân của họ. Để đạt được điều này, thông thường mỗi người dùng sẽ có một mô hình cá nhân học từ dữ liệu riêng tư của họ, và có một máy chủ sẽ tổng hợp (aggregate) kiến thức từ các mô hình của mỗi người dùng và tạo ra một mô hình chung tích hợp được những gì tất cả các mô hình con học được. Phương pháp này giúp gia tăng tính bảo mật thông tin của người dùng, vì họ không bao giờ cần chia sẻ trực tiếp dữ liệu cá nhân mà họ đã dùng để huấn luyện mô hình.

Một đặc tính của học liên kết là sự không độc lập và không đồng nhất của dữ liệu giữa các người dùng. Điều này có nghĩa là một số người dùng có nhiều dữ liệu hơn những người khác, các đặc trưng dữ liệu của họ cũng khác nhau (như các bức ảnh chụp từ các loại máy khác nhau), phân bố nhãn cũng lệch nhau (có người có nhiều ảnh mèo, có người có nhiều ảnh chó), mà theo thời gian dữ liệu của họ cũng có sự thay đổi tuơng ứng. Chính vì vậy, việc học mô hình trở nên khó khăn hơn so với việc đào tạo một mô hình học máy theo phương pháp thông thường.

Học liên kết được ứng dụng trong thực tế trong các lĩnh vực như tiên đoán văn bản cho bàn phím Google Gboard, y tế với công ty như Owkin, hay dự án NVIDIA FLARE.

Định nghĩa 
Học liên kết nhằm mục đích đào tạo một thuật toán học máy (chẳng hạn là một mạng thần kinh nhân tạo) trên nhiều người dùng khác nhau, mỗi người trong số họ có một tập dữ liệu riêng tư của mình. Điểm mấu chốt là học liên kết thay vì gửi trực tiếp dữ liệu đến máy chủ để máy chủ học một mô hình duy nhất, thì mỗi người dùng sẽ có một mô hình cá nhân được học tại chỗ, và chỉ gửi cập nhật tham số của mô hình đến với máy chủ.

Cho  người dùng với các tập dữ liệu riêng tư . Giả sử nếu học liên kết không được sử dụng, máy chủ sẽ huấn luyện mô hình trung tâm trên tập dữ liệu  để tạo ra mô hình  với hiệu suất . Mục tiêu của học liên kết là huấn luyện mô hình   với hiệu suất  sao cho các người dùng không trao đổi bất kỳ dữ liệu nào mà họ dùng để huấn luyện với nhau, mà khoảng cách giữa hai hiệu suất vẫn nhỏ hơn một số nguyên dương , hay nói cách khác .

Để đạt được điều này, thuật toán học liên kết phải giảm thiểu hàm mất mát trên các tham số  của , thường được tính với phương pháp bình quân hoặc bình quân trọng số từ các hàm mất mát cục bộ.

Trong đó,  trong trường hợp bình quân thông thường hoặc   với  là số lượng dữ liệu của người dùng  trong trường hợp sử dụng trọng số, và  là hàm mất mát cục bộ của nó. Đồng thời, học liên kết cũng mong đạt được hiệu suất tương đương trên tất cả các mô hình cá nhân.

Thuật toán 
Dưới đây là thuật toán phổ thông nhất thường được sử dụng trong học liên kết:

 Khởi tạo: Một mô hình học máy được chọn để khởi tạo với các giá trị tham số ngẫu nhiên.
 Lựa chọn người dùng: Một vài người dùng được máy chủ chọn và gửi mô hình chung hiện tại đến họ.
 Học cục bộ: Những người dùng này huấn luyện mô hình được gửi trên tập dữ liệu cá nhân của họ, thường là với thuật toán suy giảm độ dốc. Không ai trực tiếp chia sẻ dữ liệu này tới người dùng khác hay kể cả với máy chủ.
 Tổng hợp: Người dùng gửi mô hình của họ tới máy chủ. Máy chủ tổng hợp lại tham số của các mô hình cá nhân để tạo ra mô hình chung.
 Lặp lại từ bước 2.

Phân loại

Theo quan hệ giữa người dùng và máy chủ 

 Học tập liên kết tập trung (Centralized Federated Learning): dạng cơ bản thường thấy nhất của học liên kết, với một máy chủ trung tâm duy nhất chịu trách nhiệm tổng hợp các cập nhật từ tất cả người dùng và phân phối lại mô hình chung.
 Học tập liên kết phân cấp (Hierarchical Federated Learning): bổ sung thêm các máy chủ trung gian. Các người dùng gần nhau về mặt địa lý hoặc tổ chức sẽ tổng hợp cục bộ trước tại các máy chủ trung gian này, rồi mới gửi lên máy chủ trung tâm, giúp giảm tải băng thông và độ trễ.
 Học tập liên kết phi tập trung (Decentralized Federated Learning): hay còn gọi là học tập liên kết đồng cấp (Peer-to-peer), khi máy chủ bị loại bỏ hoàn toàn, thay vào đó các người dùng trao đổi cập nhật trực tiếp với nhau theo mô hình mạng ngang hàng.

Theo độ trùng lặp dữ liệu 

 Học liên kết ngang (Horizontal Federated Learning): là dạng phổ thông nhất, áp dụng khi các người dùng có cùng loại đặc trưng dữ liệu nhưng trên các mẫu khác nhau. Ví dụ như hai bệnh viện ở hai thành phố khác nhau cùng lưu trữ hồ sơ bệnh nhân với các trường thông tin giống nhau (tên, tuổi, bệnh nền, vân vân), nhưng trên các bệnh nhân khác nhau.
 Học liên kết dọc (Vertical Federated Learning): áp dụng khi các người dùng có cùng tập mẫu nhưng lưu trữ các đặc trưng khác nhau, ví dụ một ngân hàng và một công ty thương mại điện tử cùng có dữ liệu của một nhóm khách hàng chung, nhưng mỗi bên nắm giữ các thông tin khác nhau về họ.
 Học chuyển giao liên kết (Federated Transfer Learning): khi cả tập mẫu lẫn đặc trưng giữa các người dùng đều khác nhau, và dùng học chuyển giao để tận dụng kiến thức chung giữa các mô hình. Quá trình học liên kết phải dựa vào các nhãn có sẵn để dự đoán các nhãn của miền mới.

Hướng nghiên cứu

Học liên kết cá nhân hóa (Personalized Federated Learning) 
Học liên kết cá nhân hóa không chỉ muốn tối ưu mô hình chung, mà còn hướng tới việc tinh chỉnh từng mô hình cá nhân cho mỗi người dùng được tối ưu hóa với dữ liệu và nhu cầu của họ, trong khi vẫn hưởng lợi từ quá trình học chung với các người dùng khác.

Học liên kết không đồng nhất (Heterogenous Federated Learning) 
Học liên kết không đồng nhất  tập trung vào việc xử lý sự khác biệt lớn giữa các người dùng về phần cứng, dung lượng dữ liệu, phân bố nhãn, hay kể cả kiến trúc mô hình học máy giữa các người dùng với máy chủ. Đây là thách thức phổ biến trong thực tế vì các người dùng hiếm khi có dữ liệu đồng đều nhau, và sự chênh lệch này có thể khiến mô hình chung bị lệch về phía những người dùng có nhiều dữ liệu hơn.

Học liên kết tổng quát hóa miền (Federated Domain Generalization) 
Học liên kết tổng quát hóa miền hướng đến việc huấn luyện một mô hình có thể hoạt động tốt trên các miền dữ liệu hoàn toàn mới mà không có người dùng nào trong quá trình huấn luyện từng gặp. Điều này đặc biệt quan trọng khi mô hình cần được triển khai trong các môi trường khác biệt so với dữ liệu huấn luyện ban đầu. Lấy ví dụ một hệ thống xe tự lái được đào tạo bởi nhiều chiếc xe trên các thành phố khắp Việt Nam, thì cũng sẽ gặp trục trặc khi vận hành trên đường phố Hoa Kỳ do sự khác biệt về môi trường dữ liệu.

Học liên kết liên tục (Federated Continual Learning) 
Trong các môi trường thực tế, dữ liệu của người dùng liên tục thay đổi theo thời gian và mô hình cần có khả năng thích nghi với những thay đổi này cho tất cả các người dùng mà không quên đi kiến thức đã học trước đó.

Tham khảo 

Học máy
Trí tuệ nhân tạo
Khoa học máy tính