Trong một bài viết gây chấn động trên trang cá nhân, Dario Amodei, CEO của Anthropic - công ty phát triển chatbot Claude, đã đưa ra một tiết lộ gây xôn xao: không ai thực sự hiểu rõ cách thức hoạt động của trí tuệ nhân tạo. Đây là một tuyên bố từ người đứng đầu một trong những phòng thí nghiệm AI hàng đầu thế giới, khiến nhiều người không khỏi ngạc nhiên và lo ngại về sự phát triển của công nghệ này trong đời sống hàng ngày.
Hệ thống AI tạo sinh, khi thực hiện nhiệm vụ như tóm tắt tài liệu tài chính, thường khiến chúng ta bối rối về nguyên nhân đưa ra những lựa chọn nhất định. Chúng ta không thể biết rõ tại sao nó lại chọn từ này thay vì từ khác. Đôi khi, những sai sót cũng xuất hiện mặc dù hệ thống thường hoạt động chính xác. Điều này được CEO của Anthropic nhấn mạnh, cho thấy rằng sự thiếu minh bạch trong quá trình ra quyết định của AI vẫn là một thách thức lớn mà ngành công nghiệp đang phải đối mặt.
Dario Amodei, Giám đốc điều hành của Anthropic, đang dẫn dắt công ty tiên phong trong lĩnh vực chatbot với sản phẩm nổi bật là Claude. Dưới sự lãnh đạo của Amodei, Anthropic không ngừng phát triển những giải pháp trí tuệ nhân tạo tiên tiến, tập trung vào an toàn và đạo đức trong công nghệ. Claude không chỉ là một công cụ giao tiếp thông minh mà còn thể hiện cam kết của Anthropic trong việc xây dựng AI đáng tin cậy và thân thiện với người dùng. Sự đổi mới và tầm nhìn của Amodei hứa hẹn sẽ định hình tương lai của ngành công nghiệp công nghệ.
Ông đã chia sẻ rằng nhiều người ngoài lĩnh vực AI có thể sẽ ngạc nhiên khi biết rằng ngay cả những nhà phát triển cũng không hoàn toàn nắm rõ cách thức hoạt động của những sáng chế AI mà họ tạo ra. Ông nhấn mạnh rằng những lo ngại về sự thiếu hiểu biết này là hoàn toàn hợp lý và đáng được xem xét.
Amodei đã công bố một kế hoạch đầy tham vọng nhằm phát triển một công cụ tương tự như "MRI cho AI" trong vòng một thập kỷ tới. Mục đích của sáng kiến này không chỉ là hiểu rõ hơn cách thức hoạt động của công nghệ trí tuệ nhân tạo mà còn để ngăn chặn những rủi ro không thể lường trước. Ông nhấn mạnh rằng tình trạng thiếu hiểu biết hiện nay về AI là điều chưa từng xảy ra trong lịch sử công nghệ. Sáng kiến này hứa hẹn sẽ mở ra một kỷ nguyên mới trong việc quản lý và phát triển AI một cách an toàn và có trách nhiệm.
Amodei cùng với chị gái Daniela đã quyết định rời khỏi OpenAI vào cuối năm 2020. Quyết định này xuất phát từ những lo ngại liên quan đến các thực hành an toàn của công ty dưới sự lãnh đạo của Sam Altman. Họ cảm thấy rằng OpenAI đang coi nhẹ các vấn đề an toàn chỉ để theo đuổi lợi nhuận. Sau khi rời đi, Amodei cùng năm đồng nghiệp cũ đã sáng lập lên Anthropic vào năm 2021. Mục tiêu của họ là phát triển AI an toàn hơn, đồng thời nghiên cứu sâu về cách thức hoạt động của công nghệ này.
Trong thời gian qua, Amodei đã chia sẻ rằng Anthropic đang tích cực nỗ lực không chỉ để điều hướng AI theo hướng có lợi cho con người mà còn để nghiên cứu "khả năng hấp dẫn" - giúp các nhà nghiên cứu có thể hiểu được cơ chế hoạt động của các hệ thống AI. Mục tiêu này đặt ra một sự chuẩn bị cần thiết trước khi các mô hình AI phát triển đến mức độ mạnh mẽ không thể kiểm soát.
Trong nỗ lực nâng cao chất lượng và đảm bảo tính an toàn cho các mô hình AI, CEO của Anthropic đã trình bày một thử nghiệm thú vị. Thử nghiệm này bao gồm việc thành lập hai nhóm, "đội đỏ" và "đội xanh". Nhiệm vụ của "đội đỏ" là tạo ra những tình huống giả định với các vấn đề tiềm ẩn trong mô hình AI, chẳng hạn như việc khai thác lỗ hổng trong quy trình. Ngược lại, "đội xanh" được giao trách nhiệm phát hiện và phân tích những sai sót này. Thú vị thay, nhiều thành viên của "đội xanh" không chỉ phát hiện ra các vấn đề mà còn áp dụng thành công các công cụ diễn giải để hỗ trợ trong việc điều tra. Điều này chứng tỏ tính khả thi trong việc phát hiện lỗi và tối ưu hoá hiệu suất của các mô hình AI trong tương lai.
-
Mới đây, cơ quan chức năng đã công bố bốn số tài khoản liên quan đến hoạt động lừa đảo. Người dân cần nâng cao cảnh giác và tuyệt đối không chuyển tiền vào những tài khoản này. Đây là một lời nhắc nhở quan trọng để bảo vệ tài sản cá nhân và tránh trở thành nạn nhân của các hành vi gian lận. Hãy chia sẻ thông tin này để giúp mọi người được bảo vệ tốt hơn.
-
Nhiều chủ xe tại Hà Nội sẽ phải đối mặt với việc nộp phạt "nguội" theo quy định của Nghị định 168. Đây là thông tin quan trọng mà mọi người cần lưu ý để tránh các hình thức xử phạt không đáng có. Việc này nhằm đảm bảo trật tự an toàn giao thông và nâng cao ý thức của người tham gia giao thông. Hãy cập nhật thông tin để bảo vệ quyền lợi của chính mình.
Mặc dù vẫn còn nhiều thách thức trong việc phát triển quy mô các công cụ AI, nhưng thật đáng chú ý khi nhận thấy rằng đội ngũ tại đối thủ lớn nhất của OpenAI không chỉ tập trung vào việc tạo ra những công nghệ AI tiên tiến hơn. Họ còn đầu tư thời gian và công sức để tìm hiểu lý do và cơ chế hoạt động của những hệ thống này. Sự cam kết này chắc chắn sẽ tạo ra nhiều điều thú vị trong tương lai của ngành công nghiệp AI.
"AI mạnh mẽ đang trên đà định hình tương lai của nhân loại. Amodei nhấn mạnh rằng chúng ta cần hiểu rõ những sáng tạo mà chúng ta tạo ra, trước khi chúng thay đổi hoàn toàn nền kinh tế và cuộc sống của chúng ta. Những lời cảnh báo này từ một chuyên gia trong lĩnh vực đặt ra nhiều câu hỏi về trách nhiệm của các công ty công nghệ. Họ cần phải nhận thức rõ về những hệ thống mà họ phát triển, thay vì mờ mịt trước sự phức tạp của chúng. Việc nghiên cứu sâu hơn về cơ chế hoạt động của AI là điều vô cùng cần thiết, trước khi công nghệ này trở nên mạnh mẽ đến mức không thể kiểm soát."
