Techonomy: đổi mới, ai, và đạo đức

Một số phiên yêu thích của tôi tại hội nghị Techonomy hồi đầu tháng này liên quan đến đạo đức, giá trị, sự đổi mới và cách trí tuệ nhân tạo đã phát huy tác dụng trong các lĩnh vực này.

Giá trị con người cho thời đại công nghệ

Người sáng lập Techonomy David Kirkpatrick đã bắt đầu hội nghị với một cuộc nói chuyện về sự tập trung vào các giá trị con người của công nghệ. Cuộc trò chuyện lớn đầu tiên là về "giá trị con người" với Julie Hanna, Chủ tịch điều hành của Kiva, người đã nói về công nghệ như một lực lượng dân chủ hóa, và lưu ý rằng phần lớn thế giới sống với mức dưới 2 đô la một ngày. Bà nói "hình thức công lý lớn nhất là tiếp cận công bằng".

Mục sư Michael C. McFarland, Thủ quỹ, Hoa Kỳ Tỉnh Đông Bắc của Hiệp hội Jesus, cho biết chúng ta phải tự hỏi đâu là công lý, về cách sử dụng công nghệ và suy nghĩ về các giả định được nhúng trong công nghệ. Ông lo ngại rằng công nghệ tại nơi làm việc, có thể tạo ra hiệu quả và năng suất cao hơn, thường được triển khai mà không nghĩ đến tác động đối với người lao động, những người đôi khi phải chịu những tác động tàn phá. Ông kêu gọi khán giả bắt đầu bằng cách nghĩ về kinh nghiệm của người lao động.

Erica Kochi, Giám đốc điều hành về Đổi mới và đồng sáng lập UNICEF Đổi mới, lưu ý rằng bảy năm trước, không có giải pháp công nghệ tốt nào nhắm vào người nghèo nhất và mẫu số chung duy nhất là tin nhắn văn bản. Nhóm của cô đã tập trung vào việc xây dựng các giải pháp của riêng mình bằng tin nhắn văn bản và lưu ý rằng mặc dù có điện thoại Android rất rẻ tiền, hệ điều hành được xây dựng cho những người có gói dữ liệu, không dành cho những người sống dưới 2 đô la mỗi ngày. "Nếu chúng tôi sẽ xây dựng các sản phẩm và dịch vụ cho những người không phải chúng tôi, chúng tôi cần suy nghĩ về quan điểm của họ, " cô nói.

Hanna đã nói về "sự lựa chọn sai lầm giữa mục đích và lợi nhuận, giữa sứ mệnh và sản phẩm" và nói rằng các nền văn hóa hướng đến nhiệm vụ là nơi tốt hơn để làm việc, mang lại lòng trung thành lớn hơn và giúp xây dựng các công ty lâu dài. Kochi cho biết bạn có thể làm cả hai, và cho biết mô hình kinh doanh cốt lõi cần phải phù hợp với trách nhiệm xã hội, đây không phải là điều được thực hiện ở bên.

McFarland đã nói về việc không chỉ tập trung vào các cổ đông, mà còn cho tất cả các bên liên quan trong một công ty và được sử dụng làm ví dụ Bell Labs của AT & T trước khi chia tay công ty. Ông lo lắng về việc không đầu tư vào R & D dài hạn và nói rằng "chúng ta phải thay đổi văn hóa về cách chúng ta nghĩ về kinh doanh và ý nghĩa của việc thành công".

Thư viện

Tôi đã rất ấn tượng trong một cuộc nói chuyện sau đó của Tony Marx, Chủ tịch Thư viện Công cộng New York, người nói rằng, trái ngược với giả định rằng một số thư viện sẽ biến mất, ông thấy công nghệ mới là cơ hội lớn nhất trong lịch sử cho các thư viện luôn luôn ủng hộ - giúp mọi người truy cập thông tin.

Ông lưu ý rằng trong quá khứ, các thư viện đã bị kìm hãm bởi những hạn chế về thể chất và tài chính khi đưa mọi người đến các bộ sưu tập, nhưng cho biết điều này đang thay đổi.

Thư viện có thể có tác động theo ba cách lớn, ông nói. Đầu tiên chỉ là kết nối mọi người, và ông lưu ý rằng một phần ba người Mỹ không có kết nối Internet ở nhà, nhưng các thư viện cũng có thể phục vụ để đào tạo mọi người cách sử dụng máy tính, cũng như cách viết mã.

Ông nói rằng trong khi các công cụ tìm kiếm ngày nay là "không thể tin được", họ có những hạn chế và lưu ý rằng rất nhiều thông tin chất lượng cơ bản được tạo ra bởi hàng nghìn năm nỗ lực vẫn chưa có. Ông cho biết tầm nhìn của ông là cung cấp cho khách hàng quen của thư viện "mọi cuốn sách, mọi hình ảnh, mọi tài liệu và mọi kho lưu trữ ở mọi nơi trên thế giới miễn phí".

Tất cả đã trở lại với khái niệm lỗi thời về thư viện làm nền tảng, Marx nói và thúc giục chúng ta tưởng tượng nếu tất cả các tài năng trên thế giới có khả năng học hỏi, sáng tạo và đổi mới theo cách họ chọn. "Chúng tôi có các công cụ để làm cho nó không thể ngăn chặn", ông nói. "Hãy làm nó."

Các vị thần trong các hộp: Thuật toán toàn năng và các giá trị ẩn

Oren Boiman, đồng sáng lập và CEO của Magisto, người sử dụng AI để chỉnh sửa video, nói rằng "máy tính đang ngày càng trở thành hộp đen", với các thuật toán được tạo bởi các mạng thần kinh đánh bại các thuật toán tốt nhất do các lập trình viên thiết kế. Mặc dù các thuật toán này có thể đưa ra quyết định tốt hơn nhiều so với con người, nhưng không ai hiểu được cách chúng làm như vậy.

Vivienne Ming, đồng sáng lập và Chủ tịch điều hành của Socos, chuyên bán phần mềm giúp trẻ học hỏi bằng cách gửi một đề xuất mỗi ngày cho cha mẹ, nói về việc tạo ra các thuật toán thông minh. Cô nói rằng rất nhiều công việc với mạng lưới thần kinh sâu phụ thuộc vào các bộ huấn luyện, và nói về một thuật toán nhận dạng khuôn mặt không nhận diện được khuôn mặt đen vì sự thiên vị cố hữu trong đào tạo. "Máy tính cũng giống như con người", cô nói. "Nó phụ thuộc vào cách bạn nuôi dạy chúng."

Nhà khoa học trưởng của Ron, Ron Brachman, nói rằng mặc dù chúng ta đang sử dụng thuật ngữ nhân hóa để mô tả máy móc, nhưng vẫn có một sự khác biệt cơ bản giữa con người và máy tính ngay bây giờ. Mọi người đưa ra quyết định dựa trên nhu cầu và mong muốn của họ, điều này rất khác so với cách các hệ thống tính toán đưa ra quyết định ngày nay.

Boiman giải thích làm thế nào trong hầu hết các "hộp đen" này, mọi thứ đều được kết nối và những thay đổi nhỏ trong đầu vào có thể tạo ra sự khác biệt lớn và đôi khi hỗn loạn trong kết quả, chẳng hạn như khi video lan truyền. Ông nói điều này khiến mọi thứ trở nên khó lường và thật khó để theo dõi mọi thứ trở lại với những gì đã xảy ra ban đầu. Brachman lưu ý giống như chúng ta không có cách nào để kiểm soát những gì trẻ em học, điều tương tự cũng đúng với các cơ chế tính toán.

Máy kinh doanh thông minh

Cuộc thảo luận về AI và các vấn đề đạo đức phát sinh tiếp tục trong một hội thảo khác với các nhà lãnh đạo của một số công ty phần mềm chuyên biệt hơn. Babak Hodjat, đồng sáng lập và nhà khoa học trưởng của công ty máy học Sentient Technologies, cho biết câu hỏi về đạo đức là một chút phiền nhiễu khi nói đến AI, và đạo đức cũng tác động đến tất cả các loại công nghệ khác, từ điện thoại thông minh đến điểm số FICO .

George John, Chủ tịch và Người sáng lập công ty quảng cáo lập trình Rocket Fuel, đã lưu ý những lợi thế của công nghệ và nói rằng "Nếu AI thực sự hoạt động, mọi người nên về nhà sớm hơn". Ông nói về sự cần thiết của các kỹ năng quản lý mới, và quản lý cả con người và máy móc thông minh. Ông cũng nói về việc tìm kiếm các ứng dụng AI không chỉ phù hợp với các công ty lớn, nhưng cũng có thể mang lại lợi ích cho các cá nhân.

Jag Duggal, SVP của Quản lý sản phẩm cho công ty đo lường khán giả, cho biết đây là những công cụ được thiết kế để giúp chúng tôi làm việc hiệu quả hơn, hoàn thành nhiều việc hơn và tăng cường năng lực của chúng tôi. Ông nói rằng có vô số sự đổi mới và năng suất có thể phát sinh từ điều này, và nói rằng mặc dù có những lo ngại về công nghệ trở nên quá tốt, ông quan tâm nhiều hơn đến giới hạn của công nghệ.

Ông đặc biệt quan tâm đến các ưu đãi, và điều gì xảy ra khi các thuật toán học máy kết thúc sau các ưu đãi sai. Chẳng hạn, ông lưu ý rằng trong thị trường vị trí quảng cáo trực tuyến, các nhà cung cấp thương mại điện tử đã cung cấp tín dụng cho quảng cáo cuối cùng mà một người nhìn thấy trước khi đặt hàng. Điều này dẫn đến nhiều quảng cáo được nhắm mục tiêu sau khi một người đã truy cập trang web thương mại điện tử và thường sau khi ai đó đã quyết định mua; nói cách khác, khi quảng cáo có thể bị lãng phí. Wikimedia đang cố gắng đưa ra những ví dụ tốt hơn, ông nói.

Jon Stein, người sáng lập và CEO của công ty đầu tư dựa trên AI Betterment, đã nói về những điều tốt đẹp mà công nghệ có thể làm và đồng ý rằng điều quan trọng là phải đặt ra những khuyến khích rõ ràng. Ông đã nói về việc tuân theo các tiêu chuẩn ủy thác, chẳng hạn như hành động vì lợi ích tốt nhất của khách hàng của bạn và cho biết tính minh bạch có vai trò lớn, vì vậy mọi người có thể hiểu xung đột có thể xảy ra ở đâu.

Stein cho biết công nghệ sẽ khiến việc trở thành tội phạm trở nên khó khăn hơn theo thời gian, nhưng Duggal nói rằng anh ta hoài nghi hơn, bởi vì kẻ gian cũng có công nghệ. Tuy nhiên, anh vẫn bị ấn tượng bởi tiềm năng của công nghệ và đã trích dẫn một ví dụ về một dự án từ Google nơi AI có thể xác định bệnh ung thư ở nốt ruồi trên da. Ông nói rằng ông lo lắng về việc "xử lý sai" vấn đề của các đối thủ công nghệ.