Trí tuệ nhân tạo [ Đăng ngày (28/02/2026) ]
Đánh giá và phòng ngừa sự cố trong trợ lý AI doanh nghiệp
Nghiên cứu do nhóm các tác giả gồm có: Akash V. Maharaj, Daniel Lee, Kun Qian, Sajjadur Rahman, Yunyao Li (Adobe Inc., San Jose, Hoa Kỳ), David Arbour, Uttaran Bhattacharya, Anup Rao (Adobe Research, San Jose, Hoa Kỳ), Austin Zane và Avi Feller (Đại học California, Berkeley, Hoa Kỳ) thực hiện.

Hình minh họa. Nguồn Internet
Các trợ lý AI doanh nghiệp ngày càng được triển khai trong các lĩnh vực mà độ chính xác là tối quan trọng, khiến mỗi lỗi đầu ra đều có thể dẫn đến sự cố nghiêm trọng. Bài báo này trình bày một khung tổng thể để giám sát, đánh giá hiệu suất và liên tục cải tiến các hệ thống đa thành phần phức tạp như vậy đang được phát triển tích cực bởi nhiều nhóm.

Cách tiếp cận của nhóm tác giả bao gồm ba yếu tố chính: (1) một khung “mức độ nghiêm trọng” phân cấp để phát hiện sự cố, xác định và phân loại lỗi đồng thời quy định tỷ lệ lỗi cụ thể của thành phần, tạo điều kiện thuận lợi cho việc cải thiện có mục tiêu; (2) một phương pháp luận có thể mở rộng và có nguyên tắc để xây dựng, đánh giá và triển khai tiêu chuẩn, được thiết kế để phù hợp với nhiều nhóm phát triển, giảm thiểu rủi ro quá khớp và đánh giá tác động tiếp theo của các sửa đổi hệ thống; và (3) một chiến lược cải tiến liên tục tận dụng đánh giá đa chiều, cho phép xác định và thực hiện các cơ hội nâng cao đa dạng. Bằng cách áp dụng khung toàn diện này, các tổ chức có thể nâng cao một cách có hệ thống độ tin cậy và hiệu năng của Trợ lý AI, đảm bảo hiệu quả của chúng trong môi trường doanh nghiệp quan trọng.

Nhóm nghiên cứu kết luận bằng cách thảo luận về cách tiếp cận đa diện này mở ra nhiều hướng đi cho các loại cải tiến khác nhau, bao gồm đánh giá hợp tác giữa con người và AI, mở đường cho các hệ thống AI mạnh mẽ và đáng tin cậy hơn.

ctngoc
Theo Tạp chí AI, Tập 46 Số 3 (2025) DOI: 10.1002/aaai.70028
In bài viết  
Bookmark
Ý kiến của bạn

Xem nhiều

Tiêu điểm

Chuyển đổi số tại Cần Thơ: Thực trạng và giải pháp hoàn thiện hệ thống chính sách nâng cao năng lực đổi mới sáng tạo của các doanh nghiệp
Nỗ lực hoàn thiện hạ tầng công nghệ thông tin, đảm bảo kết nối thông suốt
Tập trung cao độ cho phát triển kinh tế - xã hội thành phố
Nâng cao chất lượng đội ngũ cán bộ làm công tác đối ngoại
Lãnh đạo UBND thành phố Cần Thơ làm việc với Sở Khoa học và Công nghệ về tình hình hoạt động sau khi hợp nhất ba địa phương
Hội đồng tư vấn, giao trực tiếp tổ chức chủ trì nhiệm vụ KH&CN (Tư vấn và chứng nhận Tiêu chuẩn ISO 9001:2015 – Hệ thống quản lý chất lượng - Các yêu cầu và Tiêu chuẩn ISO 14001:2015 – Hệ thống quản lý môi trường) thuộc Chương trình NSCL năm 2025
Microsoft cáo buộc nhóm tin tặc đứng sau mạng lưới Deepfake AI
Công nghệ lưu trữ lượng tử vừa đạt đột phá: Chứa 5.000 phim 4K trên một tinh thể bé hơn đầu ngón tay?
Sony tuyên bố hợp tác gây chấn động ngành game, mang tính năng độc quyền trên AMD RX 9000 đến PS5 Pro, vạch ra tương lai cho PS6
Startup xe điện Dat Bike đã không còn "trong tay” người Việt
Trung Quốc tự đẩy mình vào 'thời khắc sinh tử': 300 startup xe điện chỉ còn 7 hãng lớn có thể tồn tại, chiến trường xe điện khốc liệt hơn bất kỳ lúc nào
Chuyên gia Phạm Chi Lan chỉ ra 4 điểm yếu của các nhà sáng lập Việt: Nhiều startup cho rằng xuất khẩu được mới 'oai', trong khi thị trường nội còn khó hơn ngoại
Startup KAMEREO ‘ấm bụng’ trong ‘mùa đông gọi vốn’: Hoàn tất vòng Series B với 7,8 triệu USD từ 5 ‘đồng hương’ Nhật Bản
Founder - CEO Amslink: Kiến tạo tương lai Anh ngữ cho thế hệ trẻ Việt
CASTI Awards 2024 - Tôn vinh sản phẩm khoa học, công nghệ và đổi mới sáng tạo
Siêu thị số  
 
Windows PowerShell hiện thông tin cảnh báo khi chạy tập lệnh Invoke-WebRequest
Microsoft xác nhận Windows PowerShell hiện đưa ra cảnh báo khi chạy các tập lệnh sử dụng cmdlet Invoke-WebRequest để tải xuống nội dung web, nhằm ngăn chặn việc thực thi mã có khả năng gây rủi ro. Theo giải thích của Microsoft, điều này sẽ giảm thiểu lỗ hổng thực thi mã từ xa PowerShell có mức độ nghiêm trọng cao (CVE-2025-54100), chủ yếu ảnh hưởng đến môi trường do doanh nghiệp hoặc tổ chức sử dụng tập lệnh Powershell để tự động hóa, vì tập lệnh PowerShell không được sử dụng phổ biến bên ngoài các môi trường như vậy.


 
Điện tử  
 
Microsoft ra mắt chip AI thế hệ mới nhằm giảm phụ thuộc vào Nvidia
Microsoft vừa công bố chip trí tuệ nhân tạo thế hệ thứ hai mang tên Maia 200, đánh dấu bước tiến quan trọng trong nỗ lực tự chủ phần cứng và giảm sự phụ thuộc vào Nvidia – nhà cung cấp GPU hàng đầu hiện nay.


 
Tin học  
 
Windows PowerShell hiện thông tin cảnh báo khi chạy tập lệnh Invoke-WebRequest
Microsoft xác nhận Windows PowerShell hiện đưa ra cảnh báo khi chạy các tập lệnh sử dụng cmdlet Invoke-WebRequest để tải xuống nội dung web, nhằm ngăn chặn việc thực thi mã có khả năng gây rủi ro. Theo giải thích của Microsoft, điều này sẽ giảm thiểu lỗ hổng thực thi mã từ xa PowerShell có mức độ nghiêm trọng cao (CVE-2025-54100), chủ yếu ảnh hưởng đến môi trường do doanh nghiệp hoặc tổ chức sử dụng tập lệnh Powershell để tự động hóa, vì tập lệnh PowerShell không được sử dụng phổ biến bên ngoài các môi trường như vậy.


 



© Copyright 2020 Trung tâm Khởi nghiệp và Đổi mới sáng tạo - Sở Khoa học và Công nghệ TP. Cần Thơ
Địa chỉ: 118/3 Trần Phú - Phường Cái Khế - thành phố Cần Thơ
Giấy phép số: 05/ GP-TTĐT, do Sở Thông tin và Truyền Thông thành phố Cần Thơ cấp ngày 23/5/2017
Trưởng Ban biên tập: Ông Vũ Minh Hải - Giám Đốc Trung tâm Thông tin Khoa học và Công nghệ - Sở Khoa học & Công nghệ TP. Cần Thơ
Ghi rõ nguồn www.trithuckhoahoc.vn khi bạn sử dụng lại thông tin từ website này
-->