Techonomy: cách khắc phục những gì sai với google và facebook

Có lẽ chủ đề đáng ngạc nhiên nhất tại Techonomy năm nay là làm thế nào nhiều người nói với Facebook, Google và Twitter, với những lời chỉ trích tập trung vào cách tiếp cận của họ đối với quyền riêng tư và đặc biệt là vai trò có thể của họ trong việc cho phép hack cuộc bầu cử năm 2016 của Nga.

Một loạt các diễn giả đã thúc đẩy các loại quy định khác nhau của "Người khổng lồ Internet" này và không ai trong số các công ty nói trên có mặt tại hội nghị để đưa ra quan điểm thay thế. Điều này rất khác so với hội nghị năm ngoái, khi CEO Mark Zuckerberg của Facebook nói rằng khái niệm tin tức giả mạo trên Facebook ảnh hưởng đến cuộc bầu cử là "một ý tưởng khá điên rồ".

Kể từ đó, như Simone Ross, người đồng sáng lập Techonomy lưu ý, chúng tôi đã học được rằng "công nghệ giúp dễ dàng phân chia chúng tôi như mang chúng tôi lại với nhau". Người đồng sáng lập hội nghị David Kirkpatrick (ở trên) đã tạo ra âm thanh cho hội nghị, nói rằng "công nghệ là một lực lượng tốt, nhưng chỉ khi tốt là mục tiêu của bạn" và tiếp tục nói rằng ông tin rằng các công ty công nghệ lớn cần "chủ động giao điểm "với chính phủ, cho dù đó được gọi là quy định hay không.

Quyền lực trong một thế giới thông minh, nhân tạo

Nhà đầu tư nổi tiếng Roger McNamee của Elevation Partners, một nhà đầu tư sớm ở cả Facebook và Google, có lẽ là người tiêu cực nhất trong tất cả các diễn giả. McNamee cho biết các công ty này đã "bắt đầu cứu thế giới", nhưng điều này đã thay đổi khi quảng cáo trở thành mô hình kinh doanh của họ. Ông nói rằng điện thoại thông minh, khi kết hợp với thông tin cá nhân, đã giúp "tạo ra một mức độ hack não chưa từng thấy trước đây trên truyền thông".

McNamee nói rằng ông tin rằng Zuckerberg rất chân thành khi nói rằng ông không tin việc hack như vậy có thể xảy ra cách đây một năm, nhưng nói rằng vai trò của Google và Facebook bây giờ không thể được nói quá. Ông bình luận: "bây giờ khó có thể là họ và nhận ra bạn đã phá hủy nền văn minh phương Tây".

danah boyd, Dữ liệu & Xã hội; Roger McNamee, Đối tác nâng cao; Marc Rotenberg, Trung tâm thông tin bảo mật điện tử (EPIC); Stratford Sherman, Accompli

Cuộc thảo luận này được đưa ra trong một phần của hội thảo về "Quyền lực trong một thế giới thông minh nhân tạo được nối mạng" bao gồm danah boyd, một nhà khoa học xã hội với Data & Society và Microsoft Research; Marc Rotenberg, Chủ tịch Trung tâm thông tin bảo mật điện tử (EPIC); và người điều hành Stratford Sherman của Accompli. Sherman nói rằng trong khi Facebook và Google khởi đầu là diễn đàn cho bài phát biểu công khai thì họ "hoàn toàn không được kiểm soát". Với AI có thể tác động cơ bản đến loài người trên đường chân trời, Sherman nói rằng anh ta lo lắng về những hậu quả không lường trước được của sự phát triển công nghệ mà chúng ta đã thấy.

Rotenberg nói rằng trong khi ông vẫn lo lắng về những lo ngại về quyền riêng tư truyền thống về việc bị theo dõi và lập hồ sơ, ông cũng lo ngại không kém bởi sự thiếu cạnh tranh, thiếu đổi mới và rủi ro đối với các thể chế dân chủ. Ông nói rằng những người khổng lồ Internet có sức mạnh to lớn và dữ liệu họ sở hữu tạo ra một rào cản gia nhập thực sự, do đó không có sự cạnh tranh có ý nghĩa. Rotenberg cho biết ông đã ở Washington kể từ chính quyền Reagan và lần đầu tiên, "cuộc bầu cử năm ngoái không cảm thấy quen thuộc."

Trong một phiên họp trước đó, boyd, người đã viết một cuốn sách có tên là "Complicated", đã nói về những khó khăn khi đối mặt với sự thao túng trên Internet.

Cô ấy đã nói về một quá trình thao túng leo thang trong 20 năm qua, bắt đầu với những đứa trẻ troll Oprah và tiến tới "rickrolls" và những thứ như thay đổi kết quả tìm kiếm cho cái tên "Santorum". Gần đây, với Gamergate, một dàn nhân vật lớn hơn đã trở thành người chơi, bao gồm cả các diễn viên nhà nước. Boyd cho biết các công ty Internet nghĩ rằng AI có thể bảo vệ họ, nhưng các nhóm cố gắng thao túng kết quả đã thử nghiệm xử lý ngôn ngữ tự nhiên và quan trọng nhất là giả mạo các nguồn dữ liệu. Theo quan điểm của cô, việc tiêm dữ liệu xấu vào một hệ thống là một lỗ hổng mới. Tuy nhiên, boyd cho biết câu trả lời duy nhất sẽ là "xây dựng các kháng thể kỹ thuật vào ngành công nghiệp của chúng tôi".

Trong phiên này, boyd nói rằng các công ty công nghệ đang tính toán với sự thao túng trên nhiều mặt trận và lưu ý rằng trong khi mọi người đang nhìn vào Nga, có nhiều quốc gia khác đang theo đuổi các hành động tương tự. Ví dụ, các công ty Trung Quốc đang cố gắng đảm bảo họ sẽ kiểm soát AI và bà nói rằng điều này đưa ra một thách thức khác bởi vì đó không phải là về cạnh tranh công nghiệp mà là cạnh tranh với một nhà nước.

Khi được hỏi bởi Sherman nếu đây là một cuộc chiến, boyd nói rằng cô nghĩ đó là, trong khi McNamee nói rằng đó là chiến tranh du kích kinh điển ở chỗ kẻ thù của chúng ta đã sử dụng công nghệ của chúng ta chống lại chúng ta. McNamee cho biết vấn đề không phải là mạng xã hội hay tìm kiếm, mà là mô hình quảng cáo. Ông nói trong cuộc chiến giành sự chú ý của mọi người, chất bị chôn vùi bởi cảm giác và trích dẫn câu ngạn ngữ cũ rằng "nếu nó chảy máu, nó sẽ dẫn đầu".

Sherman lưu ý rằng nỗi sợ hãi và sự tức giận có nhiều từ tính hơn, và do đó ít tốn kém hơn. Ông nói rằng mặc dù các thông điệp hữu cơ đã được sử dụng để tiếp cận hơn 125 triệu người, mục tiêu của nỗ lực là quảng cáo để phân chia mọi người thành các nhóm dựa trên sở thích chung.

Rotenberg cho biết ông ủng hộ việc làm cho các thuật toán trở nên minh bạch và quảng cáo được quy định, nhưng nói rằng chúng tôi phải tôn trọng quyền của các cá nhân để nói chuyện trực tuyến. Nhưng McNamee nói rằng "sửa đổi đầu tiên đã được vũ khí hóa" và không gian trực tuyến khác về cơ bản so với quảng trường công cộng.

Boyd đã mô tả cái mà cô gọi là "hiệu ứng boomerang", hay nói cách khác, ý tưởng kích thích truyền thông đưa tin về những điều kỳ quặc là điểm chính, bởi vì điều này củng cố thông điệp ban đầu cho phân khúc khán giả nhầm lẫn với truyền thông. Một ví dụ, boyd đã nói về Pizzagate. Bà lưu ý rằng trước khi có Internet, các phương tiện truyền thông thường sử dụng "sự im lặng chiến lược" để tránh che đậy những điều như tự tử và các cuộc biểu tình của Klan để tránh công khai chúng.

Rotenberg đồng ý rằng phần lớn truyền thống siêng năng và giám sát này đã bị mất, và nói những điều như Mục 230 (nói rằng các công ty Internet không chịu trách nhiệm về những thứ như bài đăng của người dùng) đã khiến cho tin tức truyền thống khó cạnh tranh hơn.

Khi được hỏi về các giải pháp, McNamee nói rằng Facebook là một giáo phái và họ phải ngừng phủ nhận vấn đề và giải quyết vấn đề đó, cũng như bắt đầu giải quyết "khử lập trình" bằng cách tiếp cận với từng người dùng của mình. Rotenberg thúc đẩy ý tưởng của quy định. Và boyd đề nghị rằng chúng ta cần đầu tư tiền vào xã hội, để "tái kết nối" nước Mỹ.

Tính toán với những người bá quyền mới

Mark Mahaney, RBC Capital Market; Dave Morgan, Simulmedia; Joyce Vance, Đại học Alabama; David Kirkpatrick, Công nghệ cao

Trong một hội thảo ban đầu về "Tính toán với những người theo chủ nghĩa mới, " hầu hết mọi người đều đồng ý với Joyce Vance của Đại học Alabama, người nói rằng công nghệ đã thực sự vượt xa luật pháp, điều cần thiết để bắt kịp. Nhưng Vance cảnh báo rằng cũng có nguy cơ các câu trả lời chính trị "lắt léo".

Dave Morgan của Simulmedia nói rằng "sẽ có quy định", mặc dù ông nói rằng có thể các công ty lớn có thể tránh được nhiều tác động của nó.

Morgan lưu ý rằng lịch sử của ngành truyền thông cung cấp sự tương đồng với những gì chúng ta thấy bây giờ, vì các tờ báo sẽ tự coi họ là công ty in ấn, và các công ty phát sóng sớm coi họ là công ty công nghệ. Tất cả những điều này cho phép cung cấp liên hệ với người tiêu dùng, đó rõ ràng là những gì Google và Facebook làm. Rất nhiều vụ kiện chống độc quyền xảy ra do sức mạnh truyền thông tập trung như vậy và chính phủ đã có thể cai trị chúng. Một sự khác biệt lớn hiện nay là các công nghệ khác đòi hỏi phải có một mối quan hệ địa lý mà các công ty Internet không cần.

Vance lưu ý rằng Thượng viện hiện đang xem xét một dự luật yêu cầu các công ty này lưu giữ lịch sử quảng cáo của họ, cũng như làm rõ ai đang trả tiền cho quảng cáo chính trị. Nhưng Morgan chỉ ra rằng đây là những công ty toàn cầu với phạm vi rộng hơn. Khi được hỏi về các quy định bảo mật GDPR của châu Âu, Vance cho biết Mỹ có thể đã nhường lại quyền lãnh đạo cho EU trong lĩnh vực này. Cô nói rằng cô không nghĩ các công ty Mỹ sẽ có thể tuân thủ khác nhau ở các khu vực địa lý khác nhau, vì vậy theo mặc định, các công ty sẽ tuân thủ các quy định của châu Âu.

Mark Mahaney của RBC Capital Market cho biết các công ty đã được điều tiết, đặc biệt là ở Liên minh châu Âu, đặc biệt là Google đang xem xét việc đóng gói hoặc quảng bá dịch vụ của mình cùng với kết quả tìm kiếm hoặc với Android. Kirkpatrick cho biết ông nghĩ rằng việc giải quyết chống độc quyền thực sự đã giúp Microsoft, nhưng Mahaney phản bác rằng đó không phải là cơ quan quản lý đã ngăn chặn Microsoft, mà là cạnh tranh.

Công nghệ và Chính phủ có thể cứu dân chủ?

Tim Hwang, FryptNote; Minnie Ingersoll, Mã cho Mỹ; Marc Rotenberg, Trung tâm thông tin bảo mật điện tử; Molly Turner, Trường Kinh doanh UC Berkeley Haas; Tạp chí Jon Fine, Inc; Lawrence Norden, Trường Luật NYU

Một chủ đề tương tự đã xuất hiện tại một hội nghị bàn tròn về bữa sáng, có tiêu đề "Công nghệ và Chính phủ có thể cứu dân chủ không?, " Trong đó người điều hành Jon Fine of Inc Magazine yêu cầu giải pháp. Tuy nhiên, bàn tròn không thực sự đưa ra bất kỳ.

Hwang nói rằng vấn đề không phải là các nền tảng công nghệ, mà là sự tức giận mà mọi người cảm thấy do bị ngắt kết nối với nền kinh tế.

Lawrence Norden, thuộc Trung tâm Brennan tại Trường Luật NYU, cho biết các luật yêu cầu tiết lộ nhiều hơn về quảng cáo chính trị là một câu trả lời dễ dàng, nhưng thật không may, vấn đề lớn là "bài viết đen tối" hoặc bài viết không rõ nguồn gốc. Về mặt đó, ông nói, Internet giống như một quảng trường thị trấn.

Nhưng Rotenberg nói điều ngược lại và Internet giống như một thị trấn công ty, nơi các nền tảng đặt ra các quy tắc và quyết định những gì bạn nhìn thấy. Minnie Ingersoll của Code For America đã hỏi liệu vấn đề là sự can thiệp của nước ngoài hay Google kiểm soát những gì chúng ta nói. Cơ quan quản lý cần hiểu rõ hơn các vấn đề, cô nói.

Molly Turner của Trường Kinh doanh UC Berkeley Haas cho biết Internet đã trở thành phương tiện tốt nhất để thể hiện, nhưng lo lắng rằng nó làm suy yếu diễn ngôn dân sự. Mặt khác, cô lo lắng về các yêu cầu đối với các nền tảng để loại bỏ một số loại thông tin nhất định (ví dụ: nếu Đạo luật về Thông tin về Truyền thông bị suy yếu, hoặc vì các loại quy định khác), vì đột nhiên trong trường hợp đó, nền tảng trở thành "trọng tài của phát biểu."

Rotenberg trả lời rằng trong khi các công ty xe hơi từng chiến đấu với các quy định an toàn, cuối cùng những điều này đã giúp xe hơi an toàn hơn và dẫn đến nhiều sự đổi mới. Một môi trường pháp lý ổn định thực sự có thể giúp các nền tảng, ông đề xuất. Rotenberg quan sát thấy rằng các công ty công nghệ đã thúc đẩy "tính trung lập ròng" cho các công ty viễn thông, nhưng không phải cho chính họ, và kêu gọi một sân chơi bình đẳng.

Internet đang bị tấn công

Mark Anderson, Dịch vụ tin tức chiến lược; Peder Jungck, BAE Systems Intelligence & Security; Rebecca MacKinnon, New America; David Kirkpatrick, Công nghệ cao

Một hội thảo cuối cùng được gọi là "Internet Under Attack" tiếp tục cuộc thảo luận này.

Rebecca MacKinnon, người điều hành dự án Xếp hạng Quyền kỹ thuật số tại New America, cho biết đã từng có một giả định rằng vì Internet, các chế độ độc đoán cuối cùng sẽ trở nên giống như các nền dân chủ. Bây giờ cô ấy sợ chế độ độc đoán và dân chủ hơn sẽ "gặp nhau ở giữa".

MacKinnon cho biết các chế độ độc đoán đang điều chỉnh Internet theo mục đích của họ, trong khi các nền dân chủ phải đối mặt với chủ nghĩa dân túy, thao túng và "chủ nghĩa tư bản giám sát". Nhưng, cô ấy nói, các nền dân chủ nên cẩn thận về một phản ứng có quy định trong khi cô ấy đồng ý rằng cần phải minh bạch hơn khi nói đến thuật toán và quyền riêng tư, cô ấy lo ngại rằng một hệ thống kiểm duyệt sẽ giúp dễ dàng phá vỡ các bộ phận hơn của xã hội coi thường chính phủ.

Peder Jungck, người đứng đầu tình báo và bảo mật cho BAE Systems, đã đồng ý rằng các chính phủ muốn sử dụng các hệ thống như vậy để tìm những người bất đồng chính kiến, và nói rằng một ý tưởng là một sản phẩm, và giống như bất kỳ sản phẩm nào nó có thể được thúc đẩy. Khi được hỏi liệu hệ thống quảng cáo có được vũ khí hóa không, ông nói, "Hộp Pandora đã được mở và chúng tôi không thể quay lại."

Mark Anderson, thuộc Strategic News Service, nói rằng chúng ta đã nhìn thấy một đường thẳng từ thời ARPANET, khi không có kẻ xấu, cho đến ngày nay, khi chúng ta thấy ngày càng có nhiều hành vi độc hại.

Anderson đặc biệt rõ ràng khi mô tả cách Trung Quốc đánh cắp tài sản trí tuệ và sử dụng nó để đẩy các công ty ra khỏi doanh nghiệp. Và ông cho rằng vụ hack Equachus có tất cả các dấu hiệu của một cuộc tấn công của chính phủ. Tóm tắt, Anderson nói anh ta "không thấy một giải pháp."

Jungck nói rằng chúng ta nên cho rằng những kẻ xấu đang ở trong hệ thống của chúng ta và làm việc với các giải pháp. Chẳng hạn, ông cho biết số an sinh xã hội không còn bảo mật, vì vậy chúng tôi có thể cần một giải pháp blockchain.

Trong dự án Xếp hạng Quyền kỹ thuật số, MacKinnon đã đánh giá 22 công ty toàn cầu về 35 câu hỏi về những thứ như tự do ngôn luận, quyền riêng tư và bảo mật. Cô cho biết hai công ty có "Ds" và mọi người khác đều thất bại. Cô ấy muốn biết những gì các công ty đang làm với dữ liệu của bạn; họ đang chia sẻ nó với ai; cho dù họ đang thực hiện thẩm định, đánh giá an ninh và quản trị rủi ro; và liệu họ có bảo vệ quyền riêng tư và bảo mật, nội dung và biểu hiện hay không. Sự minh bạch là không đủ, cô nói, nhưng một bước đầu tiên cần thiết.

Anderson nói rằng tính minh bạch là một điều tốt, nhưng không phải là một giải pháp và lưu ý rằng ai đó muốn thao túng một hệ thống không phải trả tiền cho quảng cáo, nhưng có thể sử dụng 100.000 botnet. Kirkpatrick sau đó đề xuất rằng các công ty có thể thực thi danh tính, và do đó giảm việc sử dụng botnet.

Nhưng MacKinnon phản bác rằng các nhà hoạt động nhân quyền là những người dễ bị tổn thương nhất khi sử dụng các hệ thống như vậy, bởi vì nếu bạn thi hành danh tính, thì không ai phản đối một chính phủ độc tài sẽ lên mạng xã hội.

Jungck tự hỏi tại sao chúng ta cần thực thi một danh tính khi các trang web đã biết bạn là ai và bạn sẽ mua gì. "Không có ẩn danh trên internet, nó đã mất từ ​​lâu", ông nói. Sự khác biệt duy nhất là mất bao lâu để tìm ra bạn là ai.

Tóm lại, MacKinnon nói rằng cô ấy rất lạc quan trong thời gian rất dài, nhưng trong 100 năm tới, "không quá nhiều."

Lắng nghe tất cả những điều này, thật dễ dàng để bi quan, hoặc ít nhất là gây tử vong về số lượng quy định cần thiết và tác động của nó. Nhưng tôi vẫn có xu hướng là một người lạc quan, và trong khi tôi nghĩ rằng một số quy định bổ sung là cả khả năng và cần thiết, tôi tin rằng cũng giống như những người khổng lồ Internet ngày nay hay một số người chơi trong tương lai, sẽ đưa ra câu trả lời tốt hơn.

Bạn có khả năng giới thiệu PCMag.com như thế nào?