Mục lục:
- Quyền sở hữu dữ liệu và quyền riêng tư
- Quyền được lãng quên
- Quyền giải thích
- Gia công phần mềm AI
- GDPR sẽ cản trở đổi mới AI?
Video: GDPR: What Is It and How Might It Affect You? (Tháng Chín 2024)
Trong những gì có thể được mô tả như một cuộc chạy đua vũ trang, các công ty công nghệ đã tích lũy khối lượng lớn dữ liệu người dùng để trau dồi các thuật toán trí tuệ nhân tạo cung cấp năng lượng cho các ứng dụng và nền tảng của họ. Cho đến nay, họ hầu như đã có thể trốn tránh trách nhiệm khi thực tiễn của họ đã đẩy họ vào các khu vực màu xám hợp pháp và đạo đức.
Điều đó có vẻ như là tin xấu đối với các công ty sử dụng thuật toán AI, vốn được hưởng lợi từ các quy định thu thập dữ liệu lỏng lẻo (và các điều khoản dài dòng, nhàm chán và mơ hồ của các tài liệu dịch vụ). Một số người lo ngại rằng các quy tắc chặt chẽ hơn sẽ cản trở sự đổi mới và triển khai trí tuệ nhân tạo trong nhiều ứng dụng và lĩnh vực. Những người khác tin rằng chỉ thị mới sẽ tạo ra một nền tảng nơi các ứng dụng AI sẽ trở nên đáng tin cậy và đáng tin cậy hơn.
Dù thế nào đi chăng nữa, ngành công nghiệp AI đang có một sự thay đổi lớn trong kỷ nguyên GDPR.
Quyền sở hữu dữ liệu và quyền riêng tư
"GDPR là một vấn đề lớn đối với AI, bởi vì nó đòi hỏi chúng ta phải suy nghĩ khác về cách chúng ta thu thập và sử dụng dữ liệu", Tim Estes, người sáng lập và chủ tịch của Digital Reasoning nói. "Quá lâu, các công ty công nghệ đã nhấn mạnh rằng để nhận được giá trị từ các sản phẩm và dịch vụ của họ, bạn phải từ bỏ dữ liệu của mình."
Trước đây, các công ty được yêu cầu chỉ nhận được sự đồng ý mơ hồ từ người dùng để thu thập tất cả các loại dữ liệu. "AI đã giúp duy trì sự cường điệu dữ liệu lớn còn sống cung cấp thêm một lý do nữa khiến các doanh nghiệp nên thu thập và khai thác tất cả dữ liệu có sẵn", Estes nói. "Nhiều công ty đã bắt đầu triển khai AI để phân tích dữ liệu của họ chỉ vì họ nghĩ rằng họ không nên nghĩ đến tác động đến quyền riêng tư hoặc quyền sở hữu dữ liệu của người dùng."
Tiền đề cơ bản nhất của GDPR là dữ liệu thuộc về người dùng. Theo GDPR, các công ty sẽ phải tiết lộ toàn bộ phạm vi thông tin họ thu thập cũng như cách họ sử dụng và cách họ sẽ bảo vệ thông tin đó và ngăn chặn truy cập trái phép. Các quy tắc mới sẽ buộc các công ty AI phải tỉ mỉ hơn về dữ liệu họ thu thập thay vì tham gia vào việc tích trữ bừa bãi, xử lý và chia sẻ thông tin người dùng.
Quyền được lãng quên
GDPR cung cấp cho người dùng sức mạnh để yêu cầu một công ty xóa tất cả dữ liệu của họ khỏi máy chủ của công ty. Điều này sẽ không phù hợp với các công ty AI, vốn có quyền lợi trong việc giữ càng nhiều dữ liệu người dùng càng tốt để thực hiện các tác vụ như dự đoán xu hướng và hành vi của người dùng.
"Vào cuối ngày, GDPR là tất cả về cách bạn thu thập và quản lý dữ liệu và không nhất thiết là bạn có bao nhiêu dữ liệu", Maryna Burushkina, CEO của GrowthChannel nói. "Khó khăn chính mà hầu hết các công ty sẽ gặp phải không phải là nhiều về việc chọn tham gia, mà là quản lý dữ liệu nhiều hơn, truyền đạt việc sử dụng dữ liệu tới người dùng và cho phép người dùng có cơ hội xóa nó."
Các công ty AI sẽ phải đi thêm các bước để ẩn danh dữ liệu của họ nếu họ vẫn muốn có quyền truy cập vào những hiểu biết này. Nhưng những thách thức khác phải đối mặt với các công ty đã có kho dữ liệu người dùng lớn.
"Theo GDPR, nếu một công ty muốn xóa một PII cụ thể, thì họ phải đảm bảo nó bị xóa ở mọi nơi, " Amnon Drori, CEO của Octopai nói. Đây có thể là một nhiệm vụ khó khăn để thực hiện thủ công khi dữ liệu của bạn nằm rải rác trên các máy chủ khác nhau và được lưu trữ ở các định dạng có cấu trúc và không cấu trúc khác nhau.
Chẳng hạn, khi xóa số thẻ tín dụng của người dùng (chắc chắn là một thông tin nhạy cảm), các công ty sẽ phải xem xét mọi báo cáo, cơ sở dữ liệu, đối tượng cơ sở dữ liệu và ETL nơi lưu trữ thông tin. "Đôi khi chúng tôi thấy các tên siêu dữ liệu khác nhau cho cùng một mặt hàng: ví dụ: 'số thẻ tín dụng', 'số cc', số c tín dụng ', ' số thẻ ', ' thẻ tín dụng số .'… danh sách tiếp tục và trên, "Drori nói. Drori thường không thể biết nơi để tìm và quá trình có thể mất vài tuần hoặc thậm chí vài tháng, và giống như nhiều quy trình thủ công, nó dễ bị lỗi của con người và không chính xác, Drori nói.
GDPR cũng sẽ tăng chi phí cho những sai lầm của con người trong việc xử lý dữ liệu. "Đây là lý do tại sao rất nhiều công ty ngày nay đang tìm kiếm một giải pháp tự động để quản lý chính xác siêu dữ liệu của họ", Drori nói. Có lẽ trớ trêu thay, chính AI có thể là một giải pháp trong vấn đề này. Các công cụ quản lý siêu dữ liệu do AI cung cấp có thể quét tất cả các nguồn dữ liệu trong một tổ chức và củng cố mối quan hệ giữa các công cụ và nguồn dữ liệu khác nhau.
Quyền giải thích
Một trong những phần quan trọng nhất của GDPR liên quan đến AI là thứ được gọi là "quyền giải thích". Chỉ thị nêu rõ rằng các công ty phải thông báo cho người dùng về "sự tồn tại của việc ra quyết định tự động" và cung cấp cho họ "thông tin có ý nghĩa về logic liên quan, cũng như ý nghĩa và hậu quả dự kiến của việc xử lý đó đối với chủ đề dữ liệu".
Điều này về cơ bản có nghĩa là người dùng phải biết khi nào họ trực tiếp hoặc gián tiếp chịu các thuật toán AI và có thể thách thức các quyết định mà các thuật toán đưa ra và yêu cầu bằng chứng về cách kết luận được đưa ra. Đây sẽ là một trong những thách thức lớn nhất mà ngành công nghiệp AI sẽ phải đối mặt.
Các mạng nơ ron sâu, công nghệ chính đằng sau các thuật toán AI hiện đại, là các cấu trúc phần mềm phức tạp tạo ra các quy tắc chức năng của riêng chúng bằng cách phân tích các bộ dữ liệu lớn và tìm các mối tương quan và các mẫu. Khi mạng lưới thần kinh phát triển phức tạp hơn, hành vi của chúng ngày càng khó phân hủy. Thông thường, thậm chí không các kỹ sư có thể giải thích lý do đằng sau các quyết định mà thuật toán AI của họ đưa ra.
Được gọi là vấn đề "hộp đen", tính không thể giải thích của thuật toán AI đã khiến chúng ta khó thực hiện chúng trong các quyết định của tòa án, thực thi pháp luật, các ứng dụng cho vay và tín dụng, tuyển dụng, chăm sóc sức khỏe và các lĩnh vực quan trọng khác. Nhưng không có bất kỳ đòn bẩy pháp lý nào, các công ty AI không có nhiều động lực để làm cho thuật toán AI của họ minh bạch hơn, đặc biệt là khi chúng được gắn chặt với các bí mật thương mại của họ.
Bây giờ, GDPR sẽ giữ các công ty AI để giải quyết các quyết định mà thuật toán của họ đưa ra.
"Là một phần của GDPR, các tổ chức có trách nhiệm mô tả rõ ràng phương thức xử lý bằng ngôn ngữ của con người trong khi yêu cầu sự đồng ý từ chủ đề", Pascal Geenens, nhà nghiên cứu bảo mật tại Radware nói. "Khi việc học sâu phát triển và các nhà khoa học dữ liệu không thể mô tả bản chất quyết định đằng sau lý luận của mạng lưới thần kinh, mô tả này có thể trở nên phức tạp và khó giải thích hơn."
Về cơ bản, GDPR là về việc làm cho con người xử lý dữ liệu có trách nhiệm, Geenens nói. Vì vậy, nếu bạn đang sử dụng các thuật toán học máy để xử lý, bạn phải thiết kế chúng theo cách cho phép bạn giải thích các quyết định mà họ đưa ra thay mặt bạn.
Một số ít các tổ chức đang cố gắng phát triển các công nghệ để làm cho AI minh bạch hơn. Nổi bật trong số đó là Giải thích AI (XAI) của DARPA, một dự án nghiên cứu nhằm đưa ra các quyết định dựa trên AI có thể hiểu được.
Gia công phần mềm AI
GDPR cũng sẽ ảnh hưởng đến các tổ chức cung cấp dữ liệu của họ cho các bên thứ ba. Một ví dụ nổi bật của một công ty như vậy là Facebook; trong vụ bê bối Cambridge Analytica, gã khổng lồ truyền thông xã hội đã thất bại trong việc ngăn công ty khai thác dữ liệu thu thập và lạm dụng dữ liệu của 87 triệu người dùng. Nhưng GDPR cũng sẽ có ý nghĩa đối với các công ty thuê ngoài các chức năng AI của họ và cung cấp dữ liệu của họ cho các nhà cung cấp AI.
"Mặc dù nhiều người cho rằng các nhà cung cấp AI giống như các nhà cung cấp dịch vụ khác, chỉ đơn giản là cung cấp công nghệ của họ để đổi lấy tiền bồi thường. Sự thật là, các nhà cung cấp AI cũng tham gia vào quan hệ đối tác kinh doanh như một cách để xây dựng và phát triển công nghệ của họ", Estes, giám đốc điều hành từ Lý luận số. Điều này có nghĩa là nhà cung cấp AI có thể muốn giữ dữ liệu của khách hàng để tiếp tục đào tạo các thuật toán của riêng mình và sử dụng nó trong các miền khác.
Chẳng hạn, một nhà cung cấp AI giúp tổ chức chăm sóc sức khỏe tìm ra các mẫu trong các triệu chứng và cải thiện chẩn đoán có thể bắt gặp một bộ dữ liệu cải thiện thuật toán độc quyền của nó. Công ty AI sau đó có thể muốn tận dụng dữ liệu để cải thiện thuật toán của mình cho các loại chăm sóc bệnh nhân khác, để phát triển khả năng của mình để giúp các nhà cung cấp dịch vụ chăm sóc sức khỏe khác. Theo GDPR, tổ chức chăm sóc sức khỏe phụ trách dữ liệu sẽ được tổ chức để giải thích cho bất kỳ việc sử dụng phi đạo đức nào của nhà cung cấp AI. Chìa khóa, Estes tin rằng, là dành cho các doanh nghiệp tìm kiếm các nhà cung cấp AI tin vào việc sở hữu các thuật toán chứ không phải dữ liệu.
"GDPR sẽ buộc các doanh nghiệp chú ý hơn đến cách thức và thời điểm dữ liệu của họ được sử dụng, nơi lưu trữ và điều gì xảy ra với nó sau khi dự án hoàn thành, " Estes nói. "Điều này có nghĩa là làm việc với các nhà cung cấp AI giúp xác định các dòng sở hữu dữ liệu và thực hiện các chiến lược bảo vệ thông tin người dùng, đồng thời không cản trở các cách có thể giúp phát triển thành công của thuật toán AI."
GDPR sẽ cản trở đổi mới AI?
Các chuyên gia chúng tôi đã nói rằng mặc dù các quy định mới sẽ thách thức các thói quen và thói quen hiện tại mà các công ty AI đã áp dụng, nó cũng sẽ buộc họ phải tìm ra những cách mới để đổi mới và cũng để duy trì sự tôn trọng quyền riêng tư và tiêu chuẩn đạo đức.
"Với quy định GDPR có hiệu lực, tất cả các công ty phần mềm lớn đang thực hiện các biện pháp cần thiết để không chỉ đảm bảo tuân thủ mà còn đổi mới và suy nghĩ kỹ lưỡng để tìm cơ hội mới trên thị trường", Burushkina nói.
"Sự đổi mới sẽ không bị cản trở bởi nhưng được định hướng và thúc đẩy bởi GDPR, " Drori của Octopai nói. Trong khi đó, GDPR cũng sẽ tạo ra các doanh nghiệp và công nghệ mới sẽ giúp các tổ chức đạt được và duy trì sự tuân thủ GDPR.
Các tiêu chuẩn do GDPR đặt ra trên thực tế có thể giúp thu hẹp khoảng cách niềm tin giữa các nhà cung cấp và người dùng dịch vụ do AI cung cấp. Estes tin rằng GDPR sẽ khiến cả các nhà cung cấp AI và những người triển khai công nghệ của họ có trách nhiệm hơn về cách thức và nơi họ sử dụng tài nguyên dữ liệu và thúc đẩy họ đặt người dùng trước lợi nhuận. "Vào cuối ngày, " ông nói, "Các nhà cung cấp AI chỉ cần sở hữu các thuật toán mà không phải là dữ liệu để đổi mới khả năng và giải pháp của họ."
