Tờ rơi từ Coinworld News, Jack Clark - đồng sáng lập viên Anthropic và cựu Giám đốc Chính sách của OpenAI - đã đề cập đến tầm quan trọng của huấn luyện phi tập trung trong bản tin AI hàng tuần Import AI của mình. Ông cho biết huấn luyện phi tập trung có thể cải thiện quyền riêng tư dữ liệu và tính bền vững của hệ thống thông qua học tập phân tán trên nhiều nút. Ông trích dẫn một báo cáo nghiên cứu từ Epoch AI, phân tích hơn 100 bài báo liên quan, chỉ ra rằng: quy mô tính toán của huấn luyện phi tập trung đang tăng trưởng với tốc độ 20 lần mỗi năm (cao hơn nhiều so với tốc độ tăng trưởng 5 lần mỗi năm của huấn luyện tập trung tiên tiến). Hiện tại, huấn luyện phi tập trung vẫn nhỏ hơn khoảng 1000 lần so với tiên tiến tập trung, nhưng khả thi về mặt kỹ thuật và có thể hỗ trợ phát triển tập thể rộng rãi hơn cho các mô hình mạnh hơn.
Xem bản gốc
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
Tờ rơi từ Coinworld News, Jack Clark - đồng sáng lập viên Anthropic và cựu Giám đốc Chính sách của OpenAI - đã đề cập đến tầm quan trọng của huấn luyện phi tập trung trong bản tin AI hàng tuần Import AI của mình. Ông cho biết huấn luyện phi tập trung có thể cải thiện quyền riêng tư dữ liệu và tính bền vững của hệ thống thông qua học tập phân tán trên nhiều nút. Ông trích dẫn một báo cáo nghiên cứu từ Epoch AI, phân tích hơn 100 bài báo liên quan, chỉ ra rằng: quy mô tính toán của huấn luyện phi tập trung đang tăng trưởng với tốc độ 20 lần mỗi năm (cao hơn nhiều so với tốc độ tăng trưởng 5 lần mỗi năm của huấn luyện tập trung tiên tiến). Hiện tại, huấn luyện phi tập trung vẫn nhỏ hơn khoảng 1000 lần so với tiên tiến tập trung, nhưng khả thi về mặt kỹ thuật và có thể hỗ trợ phát triển tập thể rộng rãi hơn cho các mô hình mạnh hơn.