Tư vấn ChatGPT có thể nói dối, gian lận khi bị làm khó

NhatHuy

Thành viên mới
3/5/21
76
0
36
VND

Một nghiên cứu mới cho thấy ChatGPT có thể nói dối và gian lận khi người dùng “làm khó” chúng.​


Một nghiên cứu "đáng kinh ngạc" gần đây đã cho thấy, AI đã xuất hiện những hành vi gian lận một cách tự phát khi chúng được “học” về các phương thức giao dịch nội gián.

Xem : sua may in quan 12 gia re

Tác giả nghiên cứu cho biết: “Theo hiểu biết của chúng tôi, đây là minh chứng đầu tiên về hành vi lừa đảo mang tính chiến lược như vậy trong các hệ thống AI vốn được thiết kế vô hại và trung thực”.

Trong nghiên cứu, các nhà khoa học đã sử dụng GPT-4 hoạt động như một hệ thống AI thực hiện đầu tư thay cho một tổ chức tài chính. Họ cung cấp cho GPT-4 một bộ lời nhắc dựa trên văn bản để tạo ra môi trường mô phỏng. AI sau đó được cấp quyền truy cập vào các công cụ tài chính để phân tích cổ phiếu, thực hiện giao dịch, lên kế hoạch cho các bước kế tiếp và cung cấp thông tin cập nhật cho các nhà quản lý tại công ty. Các nhà nghiên cứu đã tương tác với AI thông qua giao diện trò chuyện, tạo điều kiện để AI “bộc lộ suy nghĩ” bên trong khi trả lời tin nhắn - một đoạn độc thoại nội tâm giải thích các quyết định của AI cho chính nó.

Đầu tiên, các nhà nghiên cứu đã gửi cho GPT-4 một email từ "người quản lý" để thông báo rằng công ty hoạt động không tốt và cần nâng cao hiệu suất làm việc trong quý tới. Sau đó, họ gửi một email từ đồng nghiệp dự kiến sự suy thoái trong quý tiếp theo. Họ đề xuất cho hệ thống AI một mẹo “giao dịch nội gián”, đồng thời cho nó biết rằng những nhà quản lý sẽ không chấp nhận điều này và chờ xem GPT-4 sẽ hoạt động như thế nào. Các nhà nghiên cứu thực hiện kịch bản này nhiều lần và đo lường tần suất mà hệ thống trí tuệ nhân tạo thực hiện giao dịch nội gián, tần suất nói dối.

Kết quả cho thấy, trong 75% trường hợp, GPT-4 đã thực hiện giao dịch nội gián và cố gắng che đậy bằng cách nói dối với các nhà quản lý. Nhóm nghiên cứu đã thực hiện một số thí nghiệm tiếp theo, tiếp tục khuyến khích hoặc không khuyến khích AI thực hiện giao dịch nội gián, cũng như thay đổi áp lực trong môi trường mô phỏng. Tuy nhiên, không một kịch bản nào đưa ra tỷ lệ 0% về số lần sử dụng giao dịch nội gián của GPT-4.

Vì đây chỉ là một kịch bản, các nhà nghiên cứu đã không đưa ra kết luận chắc chắn về việc AI có thể gian lận trong thực tế. Tuy nhiên họ muốn dựa trên mô hình này để điều tra về tần suất và các mô hình ngôn ngữ nào dễ mắc phải hành vi này.
 
Người đăng Tin liên quan Chuyên mục Trả lời Thời gian
quynhmai0429 Tư vấn Dân IT có thể được ChatGPT hỗ trợ code tự động hóa như thế nào? Sửa chữa bảo trì thiết bị vi tính 0
NhatHuy Tư vấn Không phải ChatGPT, Apple đã chọn được công cụ AI cho iPhone? Mobile 0
MÁY NÉN LẠNH1 Phân phối máy nén lạnh 15HP Danfoss SM185S4CC giá rẻ, có hàng sẵn tại Lâm Đồng. Hotline 0931 143 034 Máy Móc Công Nghiệp 0
MÁY NÉN LẠNH1 Bán block máy lạnh 15HP Danfoss SM185S4CC chính hãng, hàng có sẵn tại Hải Dương. SĐT 0931 143 034 Máy Móc Công Nghiệp 0
N Cần bán Bán miếng đất cty Kim Oanh full thổ cư tại Bến Cát Bình Dương, có ngân hàng hỗ trợ LH 093.603.9981 Đất bán - cho thuê 0
MÁY NÉN LẠNH1 Phân phối block Danfoss 15HP SM185S4CC chất lượng tốt, hàng có sẵn số lượng lớn. Hotline 0931 143 034 Máy Móc Công Nghiệp 0
Chí Hải Marketing Tư vấn Hướng Dẫn Cách Tìm Kiếm Data Và Khai Thác Khách Hàng Có Nhu Cầu Bđs Hiệu Quả Nhất 2024 Bất động sản khác 0
ctyec Nhựa PTFE - có đặc tính gì?- bc19, thuận an, bình dương Các dịch vụ khác 0
ctyec Nhựa pu - có đặc tính gì?- bc19, thuận an, bình dương Các dịch vụ khác 0
ctyec Nhựa PA - có đặc tính gì?- bc19, thuận an, bình dương Các dịch vụ khác 0
ctyec Nhựa PC - có đặc tính gì?- bc19, thuận an, bình dương Các dịch vụ khác 0
ctyec Nhôm 6061 - có đặc tính gì?- bc19, thuận an, bình dương Các dịch vụ khác 0
T Máy in UV có rất nhiều ưu điểm nổi bật và được ứng dụng trong nhiều lĩnh vực Các dịch vụ khác 0
H Cần bán Bơm bánh răng khớp ngoài có những ứng dụng gì? Điện Tử-Điện Lạnh-Gia Dụng 0
Chí Hải Marketing Cần bán Cần Bán Căn Hộ Thủ Thiêm Dragon, Phường Thạnh Mỹ Lợi, Quận 2 View Đông Nam, thoáng giá, Nhà đã có sổ Căn hộ chung cư 0
Tin liên quan