Microsoft phá vỡ cách điều hành một cửa hàng đạo đức

Chủ tịch Microsoft Brad Smith đã thực hiện một bước bất thường là xuất bản một bài đăng trên blog vào thứ Sáu ngày 13 tháng 7 năm 2018, trong đó ông yêu cầu chính phủ điều chỉnh công nghệ mà công ty của chính ông đang phát triển. Công nghệ đó là nhận diện khuôn mặt và Smith đã thấy được sự nguy hiểm khi cho phép sử dụng khả năng như vậy, đặc biệt là bởi các chính phủ. Nhưng Smith cũng chỉ ra rằng việc lạm dụng nhận dạng khuôn mặt trong ngành công nghiệp tư nhân có thể gây ra hậu quả giống như gây phiền nhiễu.

Vài ngày sau, Hiệp hội Máy móc Máy tính (ACM) đã đăng trên trang web của mình Bộ quy tắc đạo đức và đạo đức nghề nghiệp ACM, một bộ quy tắc ứng xử chuyên nghiệp mới có lập trường tương tự như của Microsoft, nhưng nó rộng hơn nhiều bảo hiểm hành vi đạo đức trong kinh doanh công nghệ thông tin (CNTT). Điều mà cả hai bài viết đều có điểm chung là ý tưởng duy trì mức độ trách nhiệm cao của công ty. Đó là điều mà nhiều chuyên gia CNTT cố gắng phớt lờ và để lại cho những người cao hơn trong chuỗi thực phẩm trả tiền, một thái độ vừa đáng tiếc vừa nguy hiểm.

Smith, trong bài đăng trên blog của mình, lo lắng về việc lạm dụng nhận dạng khuôn mặt. Anh ta nhận ra rằng, ngay cả trong các cơ sở lớn được tổ chức xung quanh công nghệ hiện tại, đặc biệt là các mã thông báo bảo mật như được sử dụng bởi nhiều hệ thống quản lý danh tính, có thể theo dõi rất kỹ nơi mọi người đang ở và từ đó, tìm hiểu xem họ đang làm gì. Nhưng với nhận dạng khuôn mặt, có thể loại bỏ các cá nhân khỏi bất kỳ đám đông nào ở bất cứ đâu và không chỉ theo dõi nơi ở của họ mà còn lưu giữ hồ sơ về nơi họ đã dựa trên ít dữ liệu ngoài các tính năng vật lý của họ. Như Smith chỉ ra, việc theo dõi như vậy đã diễn ra ở Trung Quốc. Smith đang yêu cầu một ủy ban để nghiên cứu việc sử dụng và hậu quả của nhận dạng khuôn mặt ở Hoa Kỳ.

Nhận dạng khuôn mặt như một hình thức ID đáng tin cậy

Rõ ràng, trong nhiều trường hợp, việc theo dõi 24x7 các chuyển động của một cá nhân là bất hợp pháp tại Hoa Kỳ, bằng chứng là các quyết định của Tòa án Tối cao Hoa Kỳ gần đây liên quan đến việc sử dụng theo dõi vị trí điện thoại di động và sử dụng thiết bị GPS mà không có lệnh. Nhưng điều đó không có nghĩa là một số cơ quan, ở đâu đó, sẽ không thử.

Tương tự như vậy, không có câu hỏi rằng nhận dạng khuôn mặt đã tiến triển đến mức nó có thể được sử dụng như một hình thức nhận dạng (ID) đáng tin cậy. Hiện tại, một số hãng hàng không đang thử nghiệm nhận dạng khuôn mặt để đi qua các đường dây an ninh và để sử dụng trong máy bay lên máy bay tại Sân bay Quốc tế Los Angeles (LAX). Tương tự như vậy, khi tôi trở về Washington, DC trên một chuyến bay từ London vào tháng trước, tất cả những gì tôi cần để vào Mỹ là một cái nhìn vào mặt tôi bằng máy ảnh và quét dấu vân tay của tôi trong khi hộ chiếu của tôi bị quét bởi người đọc.

Nhận dạng khuôn mặt: Bước tiếp theo

Vì vậy, câu hỏi là, bước tiếp theo là gì? Là một chuyên gia CNTT, giả sử bạn được yêu cầu tạo ra một hệ thống nhận dạng khuôn mặt cho chủ nhân của bạn, người sẽ xác định những người mà công ty không muốn trên tài sản hoặc cơ sở của họ. Có lẽ họ đã vượt qua một kiểm tra tồi tệ, bị nghi ngờ là ăn cắp đồ, hoặc là một nhân viên đã bị sa thải.

Bạn sẽ làm gì? Tất cả những điều đó là lý do chính đáng để không cho phép một người vào cửa hàng của bạn hoặc vào tài sản của bạn. Rất có thể, bạn sẽ không gặp nhiều khó khăn khi tìm ảnh của họ để hệ thống nhận dạng có thể dễ dàng xác định chúng. Vậy, tiếp theo là gì?

Đây là một phần trong quá trình ra quyết định của bạn, trong đó bạn cần quyết định cách sử dụng nhận dạng khuôn mặt hoặc dữ liệu sinh trắc học khác cho vấn đề đó, như là một phần của chính sách bảo mật của bạn. Đây không phải là cắt và làm khô như phản ứng của bạn đối với cảnh báo phần mềm độc hại từ một trong các nút bảo vệ điểm cuối của bạn. Những phản hồi này không thể dễ dàng được tự động. Vì vậy, bạn sẽ đặt ra một báo động? Trang quản lý cơ sở? Cảnh báo an ninh? Gọi cảnh sát? Câu trả lời cho bất kỳ câu hỏi nào trong số này có thể là có, nhưng cũng có thể là không có vấn đề gì và đưa ra quyết định sai có thể là một sai lầm kết thúc sự nghiệp.

7 mẹo sử dụng nhận dạng khuôn mặt một cách khôn ngoan

Dưới đây là một số mẹo có thể giúp giảm nguy cơ gặp sự cố trong khi vẫn bảo vệ tổ chức của bạn:

Đăng thông báo nơi khách truy cập và nhân viên sẽ nhìn thấy họ, thông báo cho họ rằng bạn đang sử dụng video giám sát và nhận dạng khuôn mặt như một phần của hoạt động bảo mật của bạn. (Luật sư của bạn sẽ sẵn lòng giúp đỡ với ngôn ngữ thực tế.)

Đảm bảo có một người trong vòng lặp trước khi bất kỳ hành động nào được thực hiện trên cơ sở bất kỳ loại ID sinh trắc học nào. Mặc dù nó trở nên tốt hơn, nhận dạng khuôn mặt, giống như các sinh trắc học khác, không đáng tin cậy 100%. Trước khi bạn hành động, ai đó cần xác nhận những gì hệ thống nhận dạng đang nói. (Làm việc với bộ phận pháp lý và quản lý cấp cao của bạn để vạch ra điều này.)

Nhận biết giới hạn của hệ thống ID mặt hoặc sinh trắc học của bạn. Ví dụ, công nghệ nhận dạng khuôn mặt hiện tại hoạt động tốt nhất với nam giới da trắng nhưng không tốt lắm với phụ nữ không da trắng. Bạn cần chắc chắn rằng bạn không vô tình thực hiện hồ sơ chủng tộc. Hãy nhớ sự đau buồn xảy ra với các công ty, từ CVS đến Starbucks, khi, dù cố ý hay không, họ đã làm điều đó. (Tất cả trong tất cả, một cuộc thảo luận rất tốt để có với nhóm pháp lý của bạn.)

Hãy chắc chắn rằng có một quy trình "Rất tiếc". Bạn sẽ có ID sai, vì vậy bạn cần đảm bảo rằng họ không gây khó chịu cho người đó hoặc công ty. (Một lần nữa, cả luật sư và quản lý cấp cao của công ty bạn nên cân nhắc ở đây.)

Xác định trước nơi bạn sẽ chia sẻ kết quả kiểm tra ID của mình. Bạn không thể gửi mọi thứ cho các cơ quan chính phủ khác nhau. Bạn cần xác định những gì bạn có thể chia sẻ, những gì bạn không thể chia sẻ và những gì cần phải có lệnh. Sau đó, hãy đảm bảo các quy trình nội bộ của bạn mạnh mẽ để nhân viên của bạn không cố gắng để ưu tiên cà ri bằng cách chia sẻ những gì không nên chia sẻ. (Đây có thể là một cuộc trò chuyện dài hơn với các luật sư của bạn, vì vậy hãy đặt hàng trong một chiếc bánh pizza.)

Liên tục kiểm tra hệ thống ID của bạn dựa trên các bộ dữ liệu nổi tiếng nhất để bạn có thể nhận dạng chính xác hơn. (Nhà cung cấp nhận dạng khuôn mặt của bạn nên có sẵn các bộ dữ liệu như vậy và theo thời gian, bạn sẽ có thể tự tạo dữ liệu.)

• Cuối cùng, hãy cẩn thận những người bạn nhắm mục tiêu để công nhận. Các thành viên của cộng đồng có quyền riêng tư mạnh mẽ và việc bạn vi phạm các quyền đó có thể khiến tổ chức của bạn phải trả giá đắt. (Đoán xem? Thêm thời gian luật sư.)

Mặc dù công ty của bạn không thể kiểm soát những gì chính phủ quyết định làm về nhận dạng khuôn mặt, nhưng điều này có lẽ không có gì trong bầu không khí rối loạn ở Washington, DC những ngày này, bạn có thể kiểm soát những gì xảy ra tại chính cơ sở của bạn. Trên thực tế, bạn sẽ được mong đợi nếu bạn thấy mình đứng trước một thẩm phán. Tuân theo các nguyên tắc đạo đức của ACM là trung thực và đáng tin cậy và thực hiện các bước không phân biệt đối xử trong khi bảo vệ quyền riêng tư đã trở nên quan trọng hơn bao giờ hết.