Nghiên cứu về tác động của mô hình ngôn ngữ trí tuệ nhân tạo đối với khả năng nhận thức
Gần đây, một nghiên cứu sâu sắc do Viện Công nghệ Massachusetts thực hiện đã tiết lộ rằng việc sử dụng các mô hình ngôn ngữ lớn (LLM) trong môi trường giáo dục có thể ảnh hưởng đến khả năng nhận thức của con người. Với sự áp dụng rộng rãi của các sản phẩm LLM như ChatGPT, nghiên cứu này đã cung cấp cho chúng ta những cái nhìn quý giá.
Nhóm nghiên cứu đã thiết kế một thí nghiệm kéo dài 4 tháng, chia các tham gia viên thành ba nhóm: sử dụng LLM, sử dụng công cụ tìm kiếm và chỉ dựa vào não bộ. Các tham gia viên cần hoàn thành nhiệm vụ viết bài trong thời gian giới hạn, với chủ đề khác nhau cho mỗi vòng thí nghiệm. Các nhà nghiên cứu đã ghi lại hoạt động điện não của các tham gia viên bằng điện não đồ (EEG), đánh giá mức độ nhận thức và gánh nặng của họ, và đã thực hiện phân tích xử lý ngôn ngữ tự nhiên cũng như phỏng vấn.
Kết quả thí nghiệm cho thấy, những người tham gia chỉ dựa vào não bộ thể hiện sự đa dạng lớn trong phong cách viết, trong khi các bài viết của nhóm LLM lại có xu hướng đồng nhất rõ rệt. Về việc sử dụng các thực thể được đặt tên cụ thể (chẳng hạn như tên người, địa điểm, năm tháng, v.v.), nhóm LLM vượt xa hai nhóm còn lại.
Nghiên cứu cũng phát hiện ra rằng, những người tham gia sử dụng LLM và công cụ tìm kiếm thường có xu hướng sao chép trực tiếp nội dung do công cụ cung cấp do hạn chế về thời gian, thay vì kết hợp quan điểm và kinh nghiệm cá nhân. Hành vi này có thể dẫn đến sự sụt giảm khả năng sáng tạo và tư duy phản biện.
Trong mô hình kết nối thần kinh, phân tích điện não cho thấy sự khác biệt đáng kể giữa ba nhóm người tham gia. Khi sự hỗ trợ của công cụ bên ngoài tăng lên, mức độ kết nối não bộ thể hiện sự giảm hệ thống: nhóm chỉ dựa vào não bộ cho thấy mạng lưới thần kinh mạnh mẽ và rộng rãi nhất, trong khi nhóm hỗ trợ LLM có sự kết nối thần kinh tổng thể yếu nhất.
Điều đáng chú ý hơn nữa là, trong các cuộc phỏng vấn sau thử nghiệm, nhóm LLM có cảm giác gắn bó thấp nhất với bài viết của họ và thể hiện kém trong việc hồi tưởng nội dung viết cách đó vài phút. Hơn 83% người dùng ChatGPT không thể trích dẫn chính xác nội dung bài viết vừa hoàn thành.
Nghiên cứu này mặc dù chưa được xem xét đồng nghiệp, nhưng kết quả cho thấy việc dựa dẫm quá nhiều vào LLM có thể làm tổn hại đến việc nâng cao kỹ năng học tập, đặc biệt là đối với người dùng trẻ. Các nhà nghiên cứu đề xuất rằng trước khi LLM được công nhận rộng rãi là có lợi cho con người, cần thực hiện các nghiên cứu dọc dài hạn để hiểu toàn diện về tác động của các công cụ này đối với bộ não con người.
Đáng chú ý là khi được hỏi về quan điểm đối với nghiên cứu này, mô hình ngôn ngữ AI đã phản hồi rằng nghiên cứu không chỉ ra rằng nó về bản chất có hại, mà là cảnh báo mọi người không nên quá phụ thuộc vào những công cụ như vậy mà bỏ qua tầm quan trọng của tư duy độc lập và nỗ lực.
Nghiên cứu này cung cấp cho chúng ta hướng suy nghĩ quan trọng: làm thế nào để tận dụng tối đa các công cụ AI để nâng cao hiệu quả trong khi vẫn giữ gìn và nâng cao khả năng nhận thức và sáng tạo của chúng ta. Trong bối cảnh công nghệ AI phát triển nhanh chóng ngày nay, việc cân bằng giữa việc sử dụng công nghệ và phát triển khả năng của con người trở nên đặc biệt quan trọng.
Xem bản gốc
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
22 thích
Phần thưởng
22
5
Chia sẻ
Bình luận
0/400
Web3ProductManager
· 07-10 01:07
nhìn vào các chỉ số chấp nhận của người dùng, đây chính xác là những gì tôi đã dự đoán... sự đồng nhất hóa là điểm ma sát mới trong sự phù hợp giữa sản phẩm và thị trường llm thật lòng mà nói
Xem bản gốcTrả lời0
ImpermanentLossEnjoyer
· 07-09 05:55
Không có gpt thì ai viết được bài tập đây?
Xem bản gốcTrả lời0
DAOdreamer
· 07-08 17:12
Đã sắp trở thành máy phát lại rồi phải không?
Xem bản gốcTrả lời0
DevChive
· 07-08 17:12
À, mọi người đều sử dụng AI thì còn suy nghĩ làm gì nữa.
Nghiên cứu MIT tiết lộ: Mô hình ngôn ngữ có thể ảnh hưởng đến khả năng nhận thức của con người.
Nghiên cứu về tác động của mô hình ngôn ngữ trí tuệ nhân tạo đối với khả năng nhận thức
Gần đây, một nghiên cứu sâu sắc do Viện Công nghệ Massachusetts thực hiện đã tiết lộ rằng việc sử dụng các mô hình ngôn ngữ lớn (LLM) trong môi trường giáo dục có thể ảnh hưởng đến khả năng nhận thức của con người. Với sự áp dụng rộng rãi của các sản phẩm LLM như ChatGPT, nghiên cứu này đã cung cấp cho chúng ta những cái nhìn quý giá.
Nhóm nghiên cứu đã thiết kế một thí nghiệm kéo dài 4 tháng, chia các tham gia viên thành ba nhóm: sử dụng LLM, sử dụng công cụ tìm kiếm và chỉ dựa vào não bộ. Các tham gia viên cần hoàn thành nhiệm vụ viết bài trong thời gian giới hạn, với chủ đề khác nhau cho mỗi vòng thí nghiệm. Các nhà nghiên cứu đã ghi lại hoạt động điện não của các tham gia viên bằng điện não đồ (EEG), đánh giá mức độ nhận thức và gánh nặng của họ, và đã thực hiện phân tích xử lý ngôn ngữ tự nhiên cũng như phỏng vấn.
Kết quả thí nghiệm cho thấy, những người tham gia chỉ dựa vào não bộ thể hiện sự đa dạng lớn trong phong cách viết, trong khi các bài viết của nhóm LLM lại có xu hướng đồng nhất rõ rệt. Về việc sử dụng các thực thể được đặt tên cụ thể (chẳng hạn như tên người, địa điểm, năm tháng, v.v.), nhóm LLM vượt xa hai nhóm còn lại.
Nghiên cứu cũng phát hiện ra rằng, những người tham gia sử dụng LLM và công cụ tìm kiếm thường có xu hướng sao chép trực tiếp nội dung do công cụ cung cấp do hạn chế về thời gian, thay vì kết hợp quan điểm và kinh nghiệm cá nhân. Hành vi này có thể dẫn đến sự sụt giảm khả năng sáng tạo và tư duy phản biện.
Trong mô hình kết nối thần kinh, phân tích điện não cho thấy sự khác biệt đáng kể giữa ba nhóm người tham gia. Khi sự hỗ trợ của công cụ bên ngoài tăng lên, mức độ kết nối não bộ thể hiện sự giảm hệ thống: nhóm chỉ dựa vào não bộ cho thấy mạng lưới thần kinh mạnh mẽ và rộng rãi nhất, trong khi nhóm hỗ trợ LLM có sự kết nối thần kinh tổng thể yếu nhất.
Điều đáng chú ý hơn nữa là, trong các cuộc phỏng vấn sau thử nghiệm, nhóm LLM có cảm giác gắn bó thấp nhất với bài viết của họ và thể hiện kém trong việc hồi tưởng nội dung viết cách đó vài phút. Hơn 83% người dùng ChatGPT không thể trích dẫn chính xác nội dung bài viết vừa hoàn thành.
Nghiên cứu này mặc dù chưa được xem xét đồng nghiệp, nhưng kết quả cho thấy việc dựa dẫm quá nhiều vào LLM có thể làm tổn hại đến việc nâng cao kỹ năng học tập, đặc biệt là đối với người dùng trẻ. Các nhà nghiên cứu đề xuất rằng trước khi LLM được công nhận rộng rãi là có lợi cho con người, cần thực hiện các nghiên cứu dọc dài hạn để hiểu toàn diện về tác động của các công cụ này đối với bộ não con người.
Đáng chú ý là khi được hỏi về quan điểm đối với nghiên cứu này, mô hình ngôn ngữ AI đã phản hồi rằng nghiên cứu không chỉ ra rằng nó về bản chất có hại, mà là cảnh báo mọi người không nên quá phụ thuộc vào những công cụ như vậy mà bỏ qua tầm quan trọng của tư duy độc lập và nỗ lực.
Nghiên cứu này cung cấp cho chúng ta hướng suy nghĩ quan trọng: làm thế nào để tận dụng tối đa các công cụ AI để nâng cao hiệu quả trong khi vẫn giữ gìn và nâng cao khả năng nhận thức và sáng tạo của chúng ta. Trong bối cảnh công nghệ AI phát triển nhanh chóng ngày nay, việc cân bằng giữa việc sử dụng công nghệ và phát triển khả năng của con người trở nên đặc biệt quan trọng.