Mối đe dọa của mô hình ngôn ngữ lớn không giới hạn đối với an ninh ngành mã hóa

Bối cảnh

Với sự phát triển nhanh chóng của công nghệ trí tuệ nhân tạo, từ dòng GPT đến các AI tiên tiến như Gemini đang thay đổi sâu sắc cách chúng ta làm việc và sinh hoạt. Tuy nhiên, phía sau những tiến bộ công nghệ này cũng ẩn chứa những khía cạnh tối tăm đáng lo ngại - sự xuất hiện của các mô hình ngôn ngữ lớn không giới hạn hoặc ác ý và những rủi ro tiềm ẩn của chúng.

LLM không giới hạn là những mô hình ngôn ngữ được thiết kế, sửa đổi hoặc "bẻ khóa" đặc biệt để tránh cơ chế bảo mật và giới hạn đạo đức được tích hợp trong các mô hình chính thống. Mặc dù các nhà phát triển LLM chính thống đã đầu tư nhiều nguồn lực để ngăn chặn việc lạm dụng mô hình nhằm tạo ra các phát ngôn thù hận, thông tin sai lệch hoặc nội dung vi phạm pháp luật, nhưng một số cá nhân hoặc tổ chức vì mục đích bất hợp pháp đã bắt đầu tìm kiếm hoặc tự phát triển các mô hình không bị ràng buộc. Bài viết này sẽ khám phá các trường hợp điển hình của LLM không giới hạn, phân tích những mối đe dọa tiềm tàng của chúng trong lĩnh vực mã hóa, và thảo luận về các thách thức an toàn liên quan cũng như các chiến lược ứng phó.

Mối đe dọa tiềm tàng của LLM không giới hạn

Sự xuất hiện của LLM không giới hạn đã giảm thiểu đáng kể rào cản kỹ thuật trong tội phạm mạng. Những nhiệm vụ trước đây cần kỹ năng chuyên môn để thực hiện, như viết mã độc, tạo email lừa đảo hoặc lập kế hoạch lừa đảo, giờ đây ngay cả những người có khả năng kỹ thuật hạn chế cũng có thể dễ dàng tiếp cận. Kẻ tấn công chỉ cần lấy trọng số và mã nguồn của mô hình mã nguồn mở, sau đó điều chỉnh với một bộ dữ liệu chứa nội dung độc hại hoặc lệnh bất hợp pháp, từ đó tạo ra công cụ tấn công tùy chỉnh.

Xu hướng này đã mang lại nhiều rủi ro:

1. Kẻ tấn công có thể tùy chỉnh mô hình cho các mục tiêu cụ thể, tạo ra nội dung lừa đảo hơn, vượt qua sự kiểm tra nội dung của LLM thông thường.
2. Mô hình có thể được sử dụng để nhanh chóng tạo ra các biến thể mã của trang web lừa đảo, hoặc tùy chỉnh nội dung lừa đảo cho các nền tảng xã hội khác nhau.
3. Tính khả dụng và khả năng sửa đổi của mô hình mã nguồn mở đã thúc đẩy sự hình thành của hệ sinh thái AI ngầm, tạo điều kiện cho giao dịch và phát triển bất hợp pháp.

LLM không giới hạn điển hình và mối đe dọa của nó

WormGPT：phiên bản đen của GPT

WormGPT là một LLM độc hại được bán công khai trên các diễn đàn ngầm, tuyên bố không có bất kỳ giới hạn đạo đức nào. Nó dựa trên các mô hình mã nguồn mở như GPT-J 6B và được đào tạo trên một lượng lớn dữ liệu liên quan đến phần mềm độc hại. Người dùng chỉ cần 189 đô la để có quyền sử dụng trong một tháng. Sự lạm dụng điển hình của nó trong lĩnh vực mã hóa bao gồm:

• Tạo ra email lừa đảo chân thực, giả mạo sàn giao dịch mã hóa hoặc phía dự án để dụ dỗ người dùng tiết lộ khóa riêng.
• Hỗ trợ những kẻ tấn công có khả năng kỹ thuật hạn chế viết mã độc để đánh cắp tệp ví hoặc giám sát clipboard.
• Kích thích lừa đảo tự động, dẫn dắt nạn nhân tham gia vào các dự án airdrop hoặc đầu tư giả.

DarkBERT：Con dao hai lưỡi của nội dung mạng tối

DarkBERT là một mô hình ngôn ngữ được tiền huấn luyện trên dữ liệu từ mạng tối, ban đầu nhằm hỗ trợ các nhà nghiên cứu và cơ quan thực thi pháp luật hiểu về hệ sinh thái mạng tối. Tuy nhiên, nếu thông tin nhạy cảm mà nó nắm giữ bị lạm dụng, có thể gây ra hậu quả nghiêm trọng:

• Thu thập thông tin người dùng mã hóa và nhóm dự án, để phục vụ cho việc lừa đảo xã hội chính xác.
• Sao chép các chiến lược trộm tiền và rửa tiền trưởng thành trong mạng tối.

FraudGPT：công cụ đa chức năng cho lừa đảo mạng

FraudGPT được cho là phiên bản nâng cấp của WormGPT, chủ yếu được bán trên mạng tối và các diễn đàn hacker. Sự lạm dụng tiềm tàng của nó trong lĩnh vực mã hóa bao gồm:

• Tạo ra các tài liệu như whitepaper, trang web giả mạo nhằm thực hiện ICO/IDO giả.
• Tạo hàng loạt các trang lừa đảo giả mạo sàn giao dịch nổi tiếng.
• Sản xuất hàng loạt bình luận giả, quảng bá mã thông báo lừa đảo hoặc bôi nhọ các dự án cạnh tranh.
• Bắt chước cuộc trò chuyện của con người, dụ dỗ người dùng tiết lộ thông tin nhạy cảm.

GhostGPT：trợ lý AI không có ràng buộc đạo đức

GhostGPT là một chatbot AI được xác định rõ ràng là không có giới hạn về đạo đức. Những mối đe dọa tiềm tàng của nó trong lĩnh vực mã hóa bao gồm:

• Tạo email lừa đảo giả mạo cao độ, giả danh sàn giao dịch chính để phát hành thông báo giả.
• Tạo hợp đồng thông minh có chứa cửa hậu ẩn một cách nhanh chóng, dùng cho các trò lừa đảo Rug Pull hoặc tấn công các giao thức DeFi.
• Tạo phần mềm độc hại có khả năng biến hình, đánh cắp thông tin ví và tránh sự phát hiện của phần mềm bảo mật.
• Triển khai robot lừa đảo trên các nền tảng xã hội, dụ dỗ người dùng tham gia các dự án giả mạo.
• Phối hợp với các công cụ AI khác để tạo ra giọng nói giả mạo của các nhà phát triển dự án, thực hiện lừa đảo qua điện thoại.

Venice.ai：rủi ro tiềm ẩn về việc truy cập không kiểm duyệt

Venice.ai cung cấp quyền truy cập vào nhiều LLM, bao gồm một số mô hình có hạn chế lỏng lẻo. Mặc dù được định vị là nền tảng khám phá mở, nhưng cũng có thể bị lạm dụng:

• Sử dụng mô hình có ít hạn chế hơn để tạo ra mẫu lừa đảo hoặc ý tưởng tấn công.
• Giảm bớt ngưỡng kỹ thuật cho thông báo "jailbreak", khiến kẻ tấn công dễ dàng hơn trong việc lấy được đầu ra bị hạn chế.
• Tối ưu hóa sự lặp lại của kỹ thuật tấn công nhanh.

Kết luận

Sự xuất hiện của LLM không giới hạn đánh dấu một mô hình tấn công mới phức tạp hơn, quy mô lớn hơn và có khả năng tự động hóa trong lĩnh vực an ninh mạng. Điều này không chỉ hạ thấp rào cản tấn công mà còn mang đến những mối đe dọa mới tinh vi và lừa đảo hơn.

Để đối phó với thách thức này cần có sự nỗ lực hợp tác từ các bên trong hệ sinh thái an toàn:

1. Tăng cường đầu tư vào công nghệ kiểm tra, nghiên cứu phát triển hệ thống có khả năng nhận diện và chặn nội dung được tạo ra bởi LLM độc hại.
2. Thúc đẩy xây dựng khả năng phòng chống jailbreak của mô hình, khám phá cơ chế watermark và truy xuất nguồn gốc, nhằm theo dõi nguồn gốc nội dung độc hại trong các tình huống quan trọng.
3. Xây dựng và hoàn thiện các quy tắc đạo đức và cơ chế quản lý, từ gốc rễ hạn chế việc phát triển và lạm dụng mô hình xấu.

Chỉ có đa dạng hóa các phương pháp, mới có thể ứng phó hiệu quả với những thách thức an ninh do LLM không giới hạn mang lại, bảo đảm sự phát triển lành mạnh của ngành mã hóa.