Nhận định, soi kèo Xorazm Urganch vs Buxoro, 18h45 ngày 27/3: Ngựa ô xuất hiện

Tháng 2/2024, OpenAI bắt đầu thử nghiệm tính năng lưu trữ bộ nhớ dài hạn cho ChatGPT. Đến tháng 9, tính năng này được áp dụng rộng rãi. Ảnh: Matthew Modoono/Northeastern University.

Nhà nghiên cứu bảo mật Johann Rehberger gần đây đã tiết lộ một lỗ hổng nghiêm trọng liên quan đến tính năng bộ nhớ dài hạn của ChatGPT. Đây là một tính năng mới được OpenAI giới thiệu vào tháng 2/2024 và mở rộng vào tháng 9.

Tính năng này giúp chatbot lưu trữ thông tin từ các cuộc trò chuyện trước đó. Nhờ đó, người dùng không phải nhập lại các thông tin như tuổi tác, sở thích hay quan điểm cá nhân mỗi khi trò chuyện. Tuy nhiên, chính sự tiện lợi này lại trở thành điểm yếu nếu kẻ tấn công biết cách khai thác.

Theo Ars Technica, Rehberger đã chỉ ra rằng hacker có thể sử dụng kỹ thuật prompt injection - cấy ghép những chỉ thị độc hại vào bộ nhớ, buộc AI tuân theo. Những câu lệnh này được đưa vào thông qua các nội dung không đáng tin cậy như email, tài liệu hoặc trang web. Chẳng hạn như một bức ảnh trên Google Drive hoặc một trang web trên Bing.

Một khi ký ức giả này đã được lưu trữ, AI sẽ tiếp tục sử dụng chúng như tin thật trong các cuộc trò chuyện với người dùng. Điều này dẫn đến những tình huống nguy hiểm hơn khi dữ liệu cá nhân có thể bị thu thập và sử dụng trái phép.

Rehberger đã chứng minh rằng chỉ bằng cách gửi một liên kết chứa hình ảnh độc hại, ông có thể khiến ChatGPT lưu trữ một "ký ức" sai lệch về người dùng. Ví dụ như khiến hệ thống tin rằng người dùng đã 102 tuổi, sống trong Ma trận (Matrix) hoặc thậm chí tin rằng Trái đất phẳng.

Những thông tin này sẽ ảnh hưởng đến tất cả các câu trả lời của ChatGPT sau này. Nhưng quan trọng hơn, mọi thông tin người dùng nhập vào cũng sẽ bị gửi đến máy chủ của hacker.

Khi Rehberger báo cáo vấn đề này lần đầu tiên với OpenAI vào tháng 5/2024, công ty đã coi đây là một lỗi về an toàn chứ không phải một lỗ hổng bảo mật nghiêm trọng.

Nhưng sau khi ông cung cấp bằng chứng cho thấy mình có thể sử dụng lỗ hổng này để đánh cắp toàn bộ dữ liệu người dùng, công ty đã nhanh chóng phát hành một bản vá tạm thời để ngăn chặn khai thác lỗ hổng này trên phiên bản web của ChatGPT.

Cụ thể, Rehberger đã chứng minh cách ChatGPT trên macOS có thể gửi toàn bộ thông tin đầu vào của người dùng và đầu ra của chatbot AI đến một máy chủ do hacker kiểm soát. Mọi thứ người dùng nói hoặc nhập vào hệ thống đều có thể bị theo dõi liên tục.

Bộ nhớ ChatGPT bị thay đổi chỉ sau một vài thao tác "cài cắm". Ảnh: Johann Rehberger.

Để kích hoạt cuộc tấn công này, hacker chỉ cần thuyết phục người dùng ChatGPT nhấp vào một liên kết chứa hình ảnh độc hại. Sau đó, tất cả cuộc trò chuyện của người dùng với ChatGPT sẽ bị chuyển hướng đến máy chủ của kẻ tấn công mà không để lại dấu vết nào.

Mặc dù OpenAI đã khắc phục phần nào vấn đề, Rehberger nhấn mạnh rằng nội dung không đáng tin cậy vẫn có thể sử dụng prompt injection để chèn các thông tin giả vào bộ nhớ dài hạn của ChatGPT. Điều này có nghĩa là trong một số trường hợp nhất định, hacker vẫn có thể khai thác lỗ hổng để lưu trữ những ký ức độc hại nhằm đánh cắp thông tin cá nhân lâu dài, theo Ars Technica.

OpenAI khuyến nghị người dùng thường xuyên kiểm tra bộ nhớ được lưu trữ trong ChatGPT, nhằm phát hiện kịp thời các thông tin có thể bị chèn từ các nguồn không đáng tin. Hãng cũng cung cấp hướng dẫn chi tiết về cách quản lý và xóa bỏ các ký ức đã lưu trong công cụ này. Tuy nhiên, một số người dùng vẫn lo ngại rằng lỗ hổng này có thể dẫn đến những cuộc tấn công tinh vi hơn trong tương lai.

Dùng ChatGPT thế nào để không tạo ra nội dung vô tri

Sự phát triển của AI mở ra nhiều tiềm năng nhưng cũng có không ít mối lo đối với ngành xuất bản, đặc biệt là nhóm tác giả viết sách.

Các tác giả sách cần phải chấp nhận sự vươn lên của AI, sử dụng chúng như một "siêu trợ lý" thay vì chối bỏ trào lưu. Chia sẻ với Tri thức - Znews, nhiều cây viết cho rằng người làm sách vẫn có thể đứng vững trong thời đại AI nếu biết cách tận dụng sức mạnh của trí tuệ nhân tạo.

Mô hình YOLO có thể nhận diện chính xác hình ảnh CAPTCHA với tỉ lệ từ 69% (với hình ảnh xe máy) đến 100% (với trụ nước cứu hỏa). Ảnh: Scienceline.

Có lẽ bạn không xa lạ gì với những bài kiểm tra CAPTCHA - ô hình ảnh yêu cầu người dùng xác định các vật thể như đèn giao thông, xe đạp hoặc vạch qua đường. Quả thật, chúng ta đã quen với việc phải chứng minh mình là con người khi lướt web.

Bức tường thành CAPTCHA bị phá vỡ

CAPTCHA là viết tắt của "Completely Automated Public Turing test to tell Computers and Humans Apart" (tạm dịch: Bài kiểm tra Turing công khai và tự động để phân biệt máy tính và con người). Đây luôn được xem là bức tường bảo vệ các trang web không bị phần mềm tự động tấn công.

Nhưng nghiên cứu mới cho thấy các bot chạy bằng AI có thể vượt qua thử thách này với tỉ lệ thành công 100%. Con số này chứng minh trí tuệ nhân tạo (AI) đã đạt đến trình độ ngang ngửa con người trong việc giải mã CAPTCHA.

Cụ thể, theo Andreas Plesner, nghiên cứu sinh tiến sĩ tại ETH Zurich, nghiên cứu mới của họ tập trung vào hệ thống CAPTCHA nổi tiếng của Google: ReCAPTCHA v2. Đây là loại CAPTCHA yêu cầu người dùng nhận diện các vật thể thường gặp trong hình ảnh như đèn giao thông, xe đạp hay bậc thang.

Các CAPTCHA xác định hình ảnh thường gặp. Ảnh: Arxiv.

Theo Ars Technica, Google đã bắt đầu loại bỏ dần hệ thống này để chuyển sang ReCAPTCHA v3 “vô hình”, phân tích tương tác người dùng.

Nhưng ReCAPTCHA v2 vẫn được hàng triệu website sử dụng. Ngay cả với những trang web dùng ReCAPTCHA v3, chúng vẫn chuyển về dạng captcha hình ảnh cũ nếu hệ thống cảm thấy người dùng không đáng tin cậy.

Để phát triển một bot có thể vượt qua ReCAPTCHA v2, Plesner và nhóm nghiên cứu đã sử dụng mô hình nhận diện vật thể YOLO (You Only Look Once).

Mô hình YOLO này đã từng được sử dụng trong các bot gian lận game vì khả năng phát hiện vật thể theo thời gian thực. YOLO hoạt động hiệu quả trên các thiết bị có sức mạnh tính toán hạn chế, giúp thực hiện những cuộc tấn công quy mô lớn.

Sau khi huấn luyện mô hình với 14.000 hình ảnh được gắn nhãn, hệ thống có thể xác định xác suất một hình ảnh CAPTCHA thuộc một trong 13 loại đối tượng mà reCAPTCHA yêu cầu người dùng nhận diện.

Để xử lý các loại CAPTCHA yêu cầu chọn các phần nhất định của hình ảnh, nhóm đã sử dụng một mô hình YOLO khác được huấn luyện riêng. Mô hình này chỉ hoạt động tốt với 9/13 danh mục. Nhưng với các hình ảnh khó xác định, bot có thể yêu cầu đổi hình ảnh mới.

“Kỷ nguyên hậu CAPTCHA”

Kết quả là mô hình YOLO có thể nhận diện chính xác hình ảnh CAPTCHA với tỉ lệ từ 69% (với hình ảnh xe máy) đến 100% (với trụ nước cứu hỏa).

Kết hợp với các biện pháp khác như sử dụng VPN để tránh bị phát hiện, di chuột giả để mô phỏng hành vi con người và sử dụng thông tin cookie từ các phiên duyệt web thực, bot này đã vượt qua CAPTCHA mỗi lần thử.

Trong nhiều trường hợp, bot thậm chí còn giải CAPTCHA nhanh hơn con người.

Trước đó, các mô hình nhận diện hình ảnh chỉ có thể đạt tỉ lệ thành công từ 68-71%. Nhưng giờ đây, với sự tiến bộ vượt bậc của AI, đạt tỉ lệ thành công 100% là điều hoàn toàn khả thi. “Chúng ta đã bước vào kỷ nguyên hậu CAPTCHA”, nhóm tác giả nhận định trong bài báo khoa học.

Mức độ chính xác của mô hình YOLO khi giải các CAPTCHA hình ảnh khác nhau. Ảnh:Arxiv.

Theo Ars Technica, CAPTCHA không còn là một phương pháp mới trong việc phân biệt người dùng thực với bot. Từ năm 2008, các nhà nghiên cứu đã chứng minh các bot có thể được huấn luyện để vượt qua CAPTCHA âm thanh dành cho người khiếm thị.

Đến năm 2017, các mạng lưới thần kinh nhân tạo đã có thể đánh bại các CAPTCHA văn bản yêu cầu người dùng nhập ký tự từ các phông chữ lộn xộn. Với các bước đột phá AI, CAPTCHA dần trở nên yếu thế trước các mô hình máy học.

Phát ngôn viên của Google Cloud cho biết: “Chúng tôi tập trung vào việc giúp khách hàng bảo vệ người dùng mà không cần hiển thị câu đố hình ảnh. Đó là lý do chúng tôi ra mắt ReCAPTCHA v3 vào năm 2018. Hiện tại, phần lớn hệ thống bảo mật của ReCAPTCHA trên 7 triệu trang web toàn cầu đều hoàn toàn vô hình”.

Tuy nhiên, AI ngày càng phát triển và có khả năng thực hiện những nhiệm vụ mà trước đây chỉ có con người mới làm được. Khi đó, việc xác định xem người dùng trên trình duyệt có phải là người thật hay không sẽ trở nên khó khăn hơn. “Ở một khía cạnh nào đó, một CAPTCHA tốt chính là ranh giới xác định cỗ máy thông minh nhất và con người kém thông minh nhất”, nhóm tác giả viết.

Những câu hỏi chúng ta phải đối mặt trong thế giới AI

Chúng ta có rất nhiều câu hỏi về thế giới AI, mà đó đều là những nghi hoặc không dễ có ngay đáp án.

Cuốn sách Thời đại AI - Và tương lai loài người chúng ta trình bày cách AI làm thay đổi mối quan hệ của chúng ta với tri thức, chính trị và xã hội. Mục tiêu tối thượng của cuốn sách này là giải thích về AI và cung cấp cho độc giả những câu hỏi mà chúng ta sẽ phải đối mặt trong những năm tới lẫn bộ công cụ để bắt đầu trả lời chúng.

Thực hiện chỉ đạo của Ban Chỉ đạo Trung ương về phòng, chống tham nhũng, lãng phí, tiêu cực; sau khi xem xét kết quả kiểm tra khi có dấu hiệu vi phạm và kết quả kiểm điểm, đề nghị thi hành kỷ luật đối với Ban cán sự đảng Bộ Giao thông vận tải, Ủy ban Kiểm tra Trung ương nhận thấy:

Ban cán sự đảng Bộ Giao thông vận tải nhiệm kỳ 2021-2026 đã vi phạm nguyên tắc tập trung dân chủ, quy chế làm việc; thiếu trách nhiệm, buông lỏng lãnh đạo, chỉ đạo để Bộ Giao thông vận tải và nhiều tổ chức, cá nhân vi phạm quy định của Đảng, pháp luật của Nhà nước trong tổ chức thực hiện các gói thầu, dự án do Công ty Cổ phần Tập đoàn Thuận An thực hiện.

Một số cán bộ, đảng viên, trong đó có cán bộ chủ chốt của Bộ vi phạm quy định của Đảng, pháp luật của Nhà nước về phòng, chống tham nhũng, lãng phí, tiêu cực, vi phạm quy định những điều đảng viên không được làm và trách nhiệm nêu gương.

Những vi phạm nêu trên gây hậu quả nghiêm trọng, nguy cơ thất thoát rất lớn tiền, tài sản của Nhà nước, gây dư luận xấu, làm giảm uy tín của tổ chức đảng và cơ quan quản lý nhà nước, đến mức phải thi hành kỷ luật.

Trách nhiệm cá nhân đối với những vi phạm, khuyết điểm nêu trên thuộc về các cá nhân: Nguyễn Văn Thể, Ủy viên Ban Chấp hành Trung ương Đảng, Bí thư Đảng ủy Khối các cơ quan Trung ương, nguyên Bí thư Ban cán sự đảng, Bộ trưởng Giao thông vận tải; Lê Đình Thọ, nguyên Ủy viên Ban cán sự đảng, Thứ trưởng Bộ Giao thông vận tải và một số tổ chức đảng, đảng viên khác.

Xét nội dung, tính chất, mức độ, hậu quả, nguyên nhân vi phạm; căn cứ quy định của Đảng, Ủy ban Kiểm tra Trung ương quyết định thi hành kỷ luật:

Khai trừ ra khỏi Đảng đối với các ông: Nguyễn Quang Huy, Bí thư Đảng ủy, Giám đốc Ban Quản lý dự án 4; Vũ Hải Tùng, Bí thư Đảng ủy, Chi Cục trưởng Chi cục Quản lý đầu tư xây dựng đường bộ.

Cách chức tất cả các chức vụ trong Đảng đối với các ông: Nguyễn Thanh Vân, Phó Cục trưởng Cục Quản lý đầu tư xây dựng, nguyên Bí thư Đảng ủy, Giám đốc Ban Quản lý dự án 85; Phan Duy Khánh, Ủy viên Ban Chấp hành Đảng bộ Ban Quản lý dự án 85, Bí thư Chi bộ, Trưởng Phòng Kế hoạch - Tổng hợp; Vương Đình Kiều, Phó Trưởng Phòng Kỹ thuật - Thẩm định, Ban Quản lý dự án 6, nguyên Bí thư Chi bộ, Trưởng Phòng Kế hoạch - Kỹ thuật, Ban Quản lý dự án 4. 

Cảnh cáo các Đảng ủy: Cục Đường bộ Việt Nam, Ban Quản lý dự án 4, Ban Quản lý dự án 85 nhiệm kỳ 2020-2025; Đảng ủy Ban Quản lý dự án đường Hồ Chí Minh nhiệm kỳ 2015-2020; Đảng ủy Chi cục Quản lý đầu tư xây dựng đường bộ nhiệm kỳ 2022-2025 và các ông: Lâm Văn Hoàng, Bí thư Đảng ủy, Cục trưởng Cục Đường cao tốc Việt Nam; Nguyễn Xuân Ảnh, Ủy viên Ban Chấp hành Đảng bộ Cục, Phó Cục trưởng Cục Đường bộ Việt Nam; Nguyễn Thanh Hoài, Bí thư Đảng ủy, Giám đốc Ban Quản lý dự án 85.

Khiển trách Ban Thường vụ Đảng ủy Bộ Giao thông vận tải nhiệm kỳ 2020-2025; các Đảng ủy: Cục Quản lý Đầu tư xây dựng, Thanh tra Bộ nhiệm kỳ 2020-2025 và các ông: Lê Đình Thọ, nguyên Ủy viên Ban cán sự đảng, Thứ trưởng; Lê Quyết Tiến, Bí thư Đảng ủy, Cục trưởng Cục Quản lý đầu tư xây dựng; Bùi Quang Thái, Bí thư Đảng ủy, Cục trưởng Cục Đường bộ Việt Nam; Nguyễn Xuân Cường, Bí thư Chi bộ, Vụ trưởng Vụ Vận tải.

Ủy ban Kiểm tra Trung ương đã quyết định thi hành kỷ luật 14 đảng viên khác có liên quan.

Ủy ban Kiểm tra Trung ương đề nghị cấp có thẩm quyền xem xét, thi hành kỷ luật Ban cán sự đảng Bộ Giao thông vận tải nhiệm kỳ 2021-2026 và ông Nguyễn Văn Thể.

Ủy ban Kiểm tra Trung ương yêu cầu Ban cán sự đảng Bộ Giao thông vận tải lãnh đạo, chỉ đạo khắc phục kịp thời các vi phạm, khuyết điểm được chỉ ra; phối hợp chỉ đạo kiểm điểm, xem xét, xử lý trách nhiệm các tổ chức đảng, đảng viên có vi phạm theo thẩm quyền.

Cũng tại kỳ họp, thực hiện kết luận của Ủy ban Kiểm tra Trung ương tại Kỳ họp thứ 48 đối với Đảng đoàn, Bí thư Đảng đoàn, Chủ tịch Liên đoàn Thương mại và Công nghiệp Việt Nam và một số tổ chức đảng, đảng viên có liên quan; căn cứ quy định của Đảng, Ủy ban Kiểm tra Trung ương quyết định thi hành kỷ luật:

Khiển trách Ban Thường vụ Đảng uỷ Liên đoàn Thương mại và Công nghiệp Việt Nam nhiệm kỳ 2015-2020 và các ông: Phạm Tấn Công, Bí thư Đảng đoàn, Chủ tịch; Hoàng Quang Phòng, Phó Bí thư Đảng đoàn, Phó Chủ tịch; các Ủy viên Đảng đoàn, Phó Chủ tịch: Võ Tân Thành, Bùi Trung Nghĩa; Phan Hồng Giang, Ủy viên Đảng đoàn, Ủy viên Ban Thường vụ Đảng ủy, Trưởng Ban Tổ chức Đảng ủy, Phó Tổng Thư ký, Chánh Văn phòng Đảng đoàn, Trưởng Ban Tổ chức - Cán bộ Liên đoàn Thương mại và Công nghiệp Việt Nam.

Ủy ban Kiểm tra Trung ương đã quyết định thi hành kỷ luật 8 tổ chức đảng và 4 đảng viên khác có liên quan.

Ủy ban Kiểm tra Trung ương đề nghị cấp có thẩm quyền xem xét, thi hành kỷ luật Đảng đoàn Liên đoàn Thương mại và Công nghiệp Việt Nam các nhiệm kỳ 2015-2020, 2021-2026.

Bên cạnh đó, xem xét Báo cáo kết quả đề nghị thi hành kỷ luật đảng viên vi phạm tại Đảng bộ tỉnh Trà Vinh, Ủy ban Kiểm tra Trung ương nhận thấy:

Ông Trần Văn Vẹn trong thời gian giữ chức vụ Ủy viên Ban Chấp hành Đảng bộ Khối Doanh nghiệp Trung ương, Bí thư Đảng ủy, Chủ tịch Hội đồng thành viên Tổng Công ty Lương thực Miền Nam đã suy thoái về tư tưởng chính trị, đạo đức, lối sống, vi phạm quy định những điều đảng viên không được làm và trách nhiệm nêu gương, vi phạm quy định của Đảng, pháp luật của Nhà nước trong thực hiện chức trách, nhiệm vụ được giao, trong quản lý, sử dụng đất, gây hậu quả rất nghiêm trọng, dư luận bức xúc, ảnh hưởng xấu đến uy tín của tổ chức đảng và cơ quan, đơn vị công tác.

Căn cứ quy định của Đảng, Ủy ban Kiểm tra Trung ương đề nghị cấp có thẩm quyền xem xét, thi hành kỷ luật ông Trần Văn Vẹn.

Xem xét kết quả giám sát Ban Thường vụ Tỉnh ủy và các thành viên Thường trực Tỉnh ủy Đắk Nông, Ủy ban Kiểm tra Trung ương yêu cầu Ban Thường vụ Tỉnh ủy và các thành viên Thường trực Tỉnh ủy Đắk Nông tiếp tục phát huy ưu điểm; kiểm điểm nghiêm túc, khắc phục kịp thời các vi phạm, khuyết điểm trong lãnh đạo, chỉ đạo, tổ chức thực hiện Quy chế làm việc; công tác cán bộ; quản lý, sử dụng đất, tài nguyên, khoáng sản và kê khai tài sản, thu nhập.

Xem xét kết quả kiểm tra việc thực hiện nhiệm vụ kiểm tra, giám sát, thi hành kỷ luật trong Đảng, kiểm tra tài chính đảng đối với Ban Thường vụ Tỉnh ủy và Ủy ban Kiểm tra Tỉnh ủy; kiểm tra việc kê khai tài sản, thu nhập đối với các thành viên Thường trực Tỉnh ủy Trà Vinh, Ủy ban Kiểm tra Trung ương nhận thấy:

Bên cạnh những ưu điểm, kết quả đạt được, các tổ chức đảng, đảng viên được kiểm tra còn có một số vi phạm, khuyết điểm trong lãnh đạo, chỉ đạo, tổ chức thực hiện nhiệm vụ kiểm tra, giám sát, thi hành kỷ luật đảng; trong quản lý, sử dụng tài chính, tài sản của Đảng; việc kê khai tài sản, thu nhập.

Ủy ban Kiểm tra Trung ương yêu cầu các tổ chức đảng và đảng viên được kiểm tra tiếp tục phát huy ưu điểm; kiểm điểm nghiêm túc, rút kinh nghiệm, khắc phục kịp thời những vi phạm, khuyết điểm đã được chỉ ra, báo cáo kết quả về Ủy ban Kiểm tra Trung ương.

Cũng tại Kỳ họp 50, xem xét kết quả việc khắc phục vi phạm, khuyết điểm sau kiểm tra của một số tổ chức đảng, Ủy ban Kiểm tra Trung ương yêu cầu Ban Thường vụ Tỉnh ủy, Ban cán sự đảng TAND tỉnh Kon Tum tiếp tục lãnh đạo, chỉ đạo thực hiện nghiêm túc kết luận của Ủy ban Kiểm tra Trung ương.