AI càng tiến gần đến trí tuệ con người, càng cần có hệ thống phòng thủ không phải của loài người.
Viết bởi: 0xResearcher
Manus đã đạt được kết quả SOTA (State-of-the-Art) trong bài kiểm tra GAIA, cho thấy hiệu suất của nó vượt qua các mô hình lớn cùng cấp của Open AI. Nó có thể hoàn thành các nhiệm vụ phức tạp một cách độc lập, như thương thảo thương mại liên quốc gia, bao gồm phân tích điều khoản hợp đồng, dự đoán chiến lược, tạo ra các giải pháp, thậm chí là điều phối giữa nhóm pháp lý và tài chính. So với các hệ thống truyền thống, ưu điểm của Manus nằm ở khả năng phân rã mục tiêu động, khả năng suy luận qua các chế độ và khả năng học tăng cường trí nhớ. Nó có thể phân rã các nhiệm vụ lớn thành hàng trăm nhiệm vụ con có thể thực hiện, đồng thời xử lý nhiều loại dữ liệu và sử dụng học tăng cường để liên tục cải thiện hiệu suất quyết định của chính nó và giảm tỷ lệ lỗi.
Trong khi ngạc nhiên với sự phát triển nhanh chóng của công nghệ, Manus đã một lần nữa gây ra sự chia rẽ trong ngành về con đường tiến hóa của trí tuệ nhân tạo: liệu tương lai sẽ thuộc về AGI hay MAS là người dẫn đầu cùng nhau?
Điều này bắt nguồn từ triết lý thiết kế của Manus, nó ẩn chứa hai khả năng:
Một trong những lộ trình AGI là việc nâng cao liên tục trình độ thông minh của từng cá thể, đưa nó gần với khả năng ra quyết định tổng thể của con người.
Còn một cách khác là con đường MAS. Là người điều phối siêu việt, chỉ huy hàng ngàn đại diện lĩnh vực dọc Agent làm việc cùng nhau.
Trên bề mặt, chúng tôi đang thảo luận về sự khác biệt trong các con đường, nhưng thực tế chúng tôi đang thảo luận về mâu thuẫn cơ bản của sự phát triển của trí tuệ nhân tạo: làm thế nào để cân bằng hiệu suất và an toàn? Khi trí tuệ đơn chất ngày càng tiến gần đến AGI, nguy cơ hộp đen hóa quyết định càng cao; trong khi sự phối hợp giữa nhiều Agent có thể phân tán rủi ro, nhưng có thể bỏ lỡ cửa sổ quyết định quan trọng do độ trễ trong truyền thông.
Sự tiến hóa của Manus đã không mặt hóa những rủi ro cố định của việc phát triển trí tuệ nhân tạo. Ví dụ như hố đen bảo mật dữ liệu: trong bối cảnh y tế, Manus cần truy cập dữ liệu gen của bệnh nhân một cách thời gian thực; trong cuộc đàm phán tài chính, có thể sẽ chạm đến thông tin báo cáo tài chính chưa công bố của doanh nghiệp; ví dụ như bẫy thiên kiến thuật toán, trong cuộc phỏng vấn tuyển dụng, Manus đưa ra đề xuất mức lương thấp hơn mức trung bình cho ứng viên từ một dân tộc cụ thể; khi kiểm tra hợp đồng pháp lý, tỷ lệ phán đoán sai về các điều khoản ngành công nghiệp mới gần như là một nửa. Và cuối cùng, để chống lại các lỗ hổng tấn công, tin tặc thông qua việc cấy ghép tần số giọng nói cụ thể, khiến cho Manus đánh giá sai khoảng giá của đối thủ trong cuộc đàm phán.
Chúng ta không thể tránh khỏi một điểm đau đớn đáng sợ của hệ thống AI: càng thông minh hệ thống, phạm vi tấn công cũng càng rộng lớn.
Tuy nhiên, an ninh luôn là một thuật ngữ được đề cập liên tục trong web3, dưới khung khái niệm tam giác không thể của V (mà mạng blockchain không thể đồng thời đảm bảo tính bảo mật, phi trung tâm và khả năng mở rộng) cũng đã tạo ra nhiều phương pháp mã hóa khác nhau:
Mô hình bảo mật Zero Trust: Ý tưởng cốt lõi của mô hình bảo mật Zero Trust là "không tin tưởng bất kỳ ai, luôn luôn xác minh", nghĩa là không nên mặc định tin tưởng bất kỳ thiết bị nào, dù có ở mạng nội bộ hay không. Mô hình này nhấn mạnh việc xác thực danh tính và cấp quyền cho mỗi yêu cầu truy cập một cách nghiêm ngặt để đảm bảo an toàn hệ thống.
Nhận dạng phi tập trung (Decentralized Identity, DID): DID là một bộ tiêu chuẩn định danh cho phép thực thể nhận dạng một cách có thể xác minh và bền vững mà không cần đến một hệ thống đăng ký tập trung. Điều này thúc đẩy một mô hình nhận dạng số phi tập trung mới, thường được đề cập đến cùng với chủ thể tự do, là một phần quan trọng của Web3.
Mã hóa đồng dạng đầy đủ (Fully Homomorphic Encryption, FHE) là một công nghệ mã hóa tiên tiến, cho phép thực hiện bất kỳ phép tính nào trên dữ liệu đã được mã hóa mà không cần giải mã dữ liệu. Điều này có nghĩa là một bên thứ ba có thể thực hiện các phép tính trên văn bản mã hóa và kết quả thu được sau khi giải mã sẽ tương tự như kết quả thu được khi thực hiện các phép tính tương tự trên văn bản rõ. Đặc tính này rất quan trọng đối với các kịch bản cần thực hiện tính toán mà không tiết lộ dữ liệu gốc, chẳng hạn như tính toán đám mây và ngoại tuyến dữ liệu.
Mô hình an toàn không tin tưởng và DID đã có một số dự án tiến hành trong nhiều chu kỳ thị trường tăng giá, họ có thể thành công hoặc bị chôn vùi dưới làn sóng tiền điện tử, trong khi là phương pháp mã hóa trẻ nhất: Mã hóa hoàn toàn đồng dạng (Fully Homomorphic Encryption, FHE) cũng là vũ khí lớn để giải quyết vấn đề an ninh trong thời đại trí tuệ nhân tạo. Mã hóa hoàn toàn đồng dạng (FHE) là một công nghệ cho phép tính toán trên dữ liệu được mã hóa.
Làm thế nào để giải quyết?
Trước hết, mặt dữ liệu. Tất cả thông tin người dùng nhập (bao gồm đặc điểm sinh học, giọng điệu) được xử lý dưới dạng mã hóa, thậm chí cả Manus cũng không thể giải mã dữ liệu gốc. Ví dụ, trong trường hợp chẩn đoán y tế, dữ liệu gen của bệnh nhân tham gia phân tích toàn bộ theo hình thức văn bản mã hóa, tránh rò rỉ thông tin sinh học.
Mặt cơ sở thuật toán. Qua việc thực hiện FHE, "huấn luyện mô hình mã hóa" cả nhà phát triển cũng không thể xâm nhập vào con đường quyết định của trí tuệ nhân tạo.
Ở mức cộng tác. Giao tiếp giữa nhiều Agent sử dụng mã hóa ngưỡng, việc xâm nhập vào một nút không dẫn đến rò rỉ dữ liệu toàn cầu. Ngay cả trong kịch bản tấn công phòng thủ chuỗi cung ứng, sau khi tấn công xâm nhập nhiều Agent, hacker cũng không thể có được tầm nhìn kinh doanh toàn diện.
Và do hạn chế về công nghệ, an ninh web3 có thể không trực tiếp liên quan đến hầu hết người dùng, nhưng lại có lợi ích gián tiếp phức tạp, trong khu rừng tối tăm này, nếu không tập trung vào việc trang bị, sẽ không bao giờ thoát khỏi vai trò "dân chăn cỏ".
uPort đã được phát hành trên mạng chính Ethereum vào năm 2017, có thể là một trong những dự án về danh tính phi tập trung (DID) được phát hành sớm nhất trên mạng chính.
Trong mô hình bảo mật không tin cậy, NKN đã phát hành mạng chính của mình vào năm 2019.
Mạng Tâm Trí là dự án FHE đầu tiên được triển khai trên mainnet và tiên phong trong việc hợp tác với ZAMA, Google, DeepSeek và các đối tác khác.
uPort và NKN đã là hai dự án mà dường như người viết chưa từng nghe đến, dường như các dự án an ninh thực sự không được sự chú ý của những người đầu cơ, liệu Mind network có thể thoát khỏi lời nguyền này, trở thành ngôi đầu trong lĩnh vực an ninh hay không, chúng ta hãy đợi xem.
Tương lai đã đến. AI càng tiến gần tới trí tuệ của con người, càng cần hệ thống phòng thủ không phải của loài người. Giá trị của FHE không chỉ là giải quyết vấn đề hiện tại, mà còn là mở đường cho thời đại AI mạnh mẽ. Trên con đường nguy hiểm dẫn đến AGI, FHE không phải là lựa chọn mà là vật cần thiết để sống sót.
Nội dung chỉ mang tính chất tham khảo, không phải là lời chào mời hay đề nghị. Không cung cấp tư vấn về đầu tư, thuế hoặc pháp lý. Xem Tuyên bố miễn trừ trách nhiệm để biết thêm thông tin về rủi ro.
Manus mang đến ánh sáng đầu tiên của AGI, AI an toàn lại có sự thay đổi
Viết bởi: 0xResearcher
Manus đã đạt được kết quả SOTA (State-of-the-Art) trong bài kiểm tra GAIA, cho thấy hiệu suất của nó vượt qua các mô hình lớn cùng cấp của Open AI. Nó có thể hoàn thành các nhiệm vụ phức tạp một cách độc lập, như thương thảo thương mại liên quốc gia, bao gồm phân tích điều khoản hợp đồng, dự đoán chiến lược, tạo ra các giải pháp, thậm chí là điều phối giữa nhóm pháp lý và tài chính. So với các hệ thống truyền thống, ưu điểm của Manus nằm ở khả năng phân rã mục tiêu động, khả năng suy luận qua các chế độ và khả năng học tăng cường trí nhớ. Nó có thể phân rã các nhiệm vụ lớn thành hàng trăm nhiệm vụ con có thể thực hiện, đồng thời xử lý nhiều loại dữ liệu và sử dụng học tăng cường để liên tục cải thiện hiệu suất quyết định của chính nó và giảm tỷ lệ lỗi.
Trong khi ngạc nhiên với sự phát triển nhanh chóng của công nghệ, Manus đã một lần nữa gây ra sự chia rẽ trong ngành về con đường tiến hóa của trí tuệ nhân tạo: liệu tương lai sẽ thuộc về AGI hay MAS là người dẫn đầu cùng nhau?
Điều này bắt nguồn từ triết lý thiết kế của Manus, nó ẩn chứa hai khả năng:
Một trong những lộ trình AGI là việc nâng cao liên tục trình độ thông minh của từng cá thể, đưa nó gần với khả năng ra quyết định tổng thể của con người.
Còn một cách khác là con đường MAS. Là người điều phối siêu việt, chỉ huy hàng ngàn đại diện lĩnh vực dọc Agent làm việc cùng nhau.
Trên bề mặt, chúng tôi đang thảo luận về sự khác biệt trong các con đường, nhưng thực tế chúng tôi đang thảo luận về mâu thuẫn cơ bản của sự phát triển của trí tuệ nhân tạo: làm thế nào để cân bằng hiệu suất và an toàn? Khi trí tuệ đơn chất ngày càng tiến gần đến AGI, nguy cơ hộp đen hóa quyết định càng cao; trong khi sự phối hợp giữa nhiều Agent có thể phân tán rủi ro, nhưng có thể bỏ lỡ cửa sổ quyết định quan trọng do độ trễ trong truyền thông.
Sự tiến hóa của Manus đã không mặt hóa những rủi ro cố định của việc phát triển trí tuệ nhân tạo. Ví dụ như hố đen bảo mật dữ liệu: trong bối cảnh y tế, Manus cần truy cập dữ liệu gen của bệnh nhân một cách thời gian thực; trong cuộc đàm phán tài chính, có thể sẽ chạm đến thông tin báo cáo tài chính chưa công bố của doanh nghiệp; ví dụ như bẫy thiên kiến thuật toán, trong cuộc phỏng vấn tuyển dụng, Manus đưa ra đề xuất mức lương thấp hơn mức trung bình cho ứng viên từ một dân tộc cụ thể; khi kiểm tra hợp đồng pháp lý, tỷ lệ phán đoán sai về các điều khoản ngành công nghiệp mới gần như là một nửa. Và cuối cùng, để chống lại các lỗ hổng tấn công, tin tặc thông qua việc cấy ghép tần số giọng nói cụ thể, khiến cho Manus đánh giá sai khoảng giá của đối thủ trong cuộc đàm phán.
Chúng ta không thể tránh khỏi một điểm đau đớn đáng sợ của hệ thống AI: càng thông minh hệ thống, phạm vi tấn công cũng càng rộng lớn.
Tuy nhiên, an ninh luôn là một thuật ngữ được đề cập liên tục trong web3, dưới khung khái niệm tam giác không thể của V (mà mạng blockchain không thể đồng thời đảm bảo tính bảo mật, phi trung tâm và khả năng mở rộng) cũng đã tạo ra nhiều phương pháp mã hóa khác nhau:
Mô hình an toàn không tin tưởng và DID đã có một số dự án tiến hành trong nhiều chu kỳ thị trường tăng giá, họ có thể thành công hoặc bị chôn vùi dưới làn sóng tiền điện tử, trong khi là phương pháp mã hóa trẻ nhất: Mã hóa hoàn toàn đồng dạng (Fully Homomorphic Encryption, FHE) cũng là vũ khí lớn để giải quyết vấn đề an ninh trong thời đại trí tuệ nhân tạo. Mã hóa hoàn toàn đồng dạng (FHE) là một công nghệ cho phép tính toán trên dữ liệu được mã hóa.
Làm thế nào để giải quyết?
Trước hết, mặt dữ liệu. Tất cả thông tin người dùng nhập (bao gồm đặc điểm sinh học, giọng điệu) được xử lý dưới dạng mã hóa, thậm chí cả Manus cũng không thể giải mã dữ liệu gốc. Ví dụ, trong trường hợp chẩn đoán y tế, dữ liệu gen của bệnh nhân tham gia phân tích toàn bộ theo hình thức văn bản mã hóa, tránh rò rỉ thông tin sinh học.
Mặt cơ sở thuật toán. Qua việc thực hiện FHE, "huấn luyện mô hình mã hóa" cả nhà phát triển cũng không thể xâm nhập vào con đường quyết định của trí tuệ nhân tạo.
Ở mức cộng tác. Giao tiếp giữa nhiều Agent sử dụng mã hóa ngưỡng, việc xâm nhập vào một nút không dẫn đến rò rỉ dữ liệu toàn cầu. Ngay cả trong kịch bản tấn công phòng thủ chuỗi cung ứng, sau khi tấn công xâm nhập nhiều Agent, hacker cũng không thể có được tầm nhìn kinh doanh toàn diện.
Và do hạn chế về công nghệ, an ninh web3 có thể không trực tiếp liên quan đến hầu hết người dùng, nhưng lại có lợi ích gián tiếp phức tạp, trong khu rừng tối tăm này, nếu không tập trung vào việc trang bị, sẽ không bao giờ thoát khỏi vai trò "dân chăn cỏ".
uPort và NKN đã là hai dự án mà dường như người viết chưa từng nghe đến, dường như các dự án an ninh thực sự không được sự chú ý của những người đầu cơ, liệu Mind network có thể thoát khỏi lời nguyền này, trở thành ngôi đầu trong lĩnh vực an ninh hay không, chúng ta hãy đợi xem.
Tương lai đã đến. AI càng tiến gần tới trí tuệ của con người, càng cần hệ thống phòng thủ không phải của loài người. Giá trị của FHE không chỉ là giải quyết vấn đề hiện tại, mà còn là mở đường cho thời đại AI mạnh mẽ. Trên con đường nguy hiểm dẫn đến AGI, FHE không phải là lựa chọn mà là vật cần thiết để sống sót.