Cách các nhân viên công nghệ đang thúc đẩy Thung lũng Silicon đặt đạo đức lên trước lợi nhuận

Кӯшиш Кунед, Ки Асбоби Моро Барои Бартараф Кардани Мушкилот Санҷед

Công nhân tại Google, Amazon và Microsoft đang yêu cầu đầu vào về tác động của công nghệ mà họ xây dựng.

Camera giám sát với bóng người ở gần nó.

Người qua đường đi bộ dưới camera giám sát, một phần của bài kiểm tra công nghệ nhận dạng khuôn mặt, ở Berlin, Đức.

Hình ảnh Steffi Loos / Getty

Câu chuyện này là một phần của một nhóm các câu chuyện có tên là Công nghệ

Cách công nghệ mới đang biến đổi các thành phố và xã hội, từ những ứng dụng mới nhất đến những tiến bộ trong năng lượng tái tạo, máy tính, giao thông vận tải và hơn thế nữa.

Điệp khúc của các công nhân công nghệ yêu cầu các công ty công nghệ Mỹ đặt đạo đức lên trước lợi nhuận ngày càng lớn hơn.

Những ngày gần đây, nhân viên tại Google và Microsoft đã gây áp lực buộc các giám đốc điều hành công ty bỏ thầu một hợp đồng trị giá 10 tỷ USD để cung cấp dịch vụ điện toán đám mây cho Bộ Quốc phòng.

Là một phần của hợp đồng, được gọi là JEDI, các kỹ sư sẽ xây dựng hệ thống lưu trữ đám mây cho dữ liệu quân sự; có một vài chi tiết công khai về những gì khác mà nó sẽ đòi hỏi. Nhưng có một điều rõ ràng: Dự án sẽ liên quan đến việc sử dụng trí tuệ nhân tạo để làm cho quân đội Mỹ chết nhiều hơn .

Chương trình này thực sự là nhằm tăng cường khả năng sát thương của bộ phận của chúng tôi và cung cấp các nguồn lực tốt nhất cho những người đàn ông và phụ nữ mặc đồng phục của chúng tôi, John Gibson, giám đốc quản lý tại Bộ Quốc phòng, cho biết tại một sự kiện trong ngành tháng 3 về JEDI .

Hàng nghìn nhân viên của Google được báo cáo gây áp lực cho công ty bỏ giá thầu cho dự án và nhiều người đã nói rằng họ sẽ từ chối để làm việc trên nó. Họ chỉ ra rằng công việc như vậy có thể vi phạm chính sách đạo đức mới về việc sử dụng trí tuệ nhân tạo. Google đã cam kết không sử dụng AI để chế tạo vũ khí hoặc các công nghệ khác có mục đích chính hoặc việc triển khai là gây ra hoặc trực tiếp gây thương tích cho con người, một công ty chính sách nhân viên đã thúc đẩy .

Vào ngày 8 tháng 10, Google thông báo rằng họ sẽ rút khỏi cuộc chạy đua cho hợp đồng JEDI. Giờ đây, các nhân viên của Microsoft đang thúc đẩy các giám đốc điều hành làm điều tương tự.

Không có sự minh bạch trong các cuộc đàm phán này và một cơ quan đạo đức không rõ ràng chuyên phân xử các quyết định đạo đức, việc chấp nhận hợp đồng này sẽ khiến nhân viên Microsoft bình thường không thể biết liệu họ có đang viết mã nhằm mục đích gây hại hay không. nhân viên của Microsoft trong một thư xuất bản thứ sáu (và được xác minh) bởi Medium.

Không rõ có bao nhiêu nhân viên là thành viên của nhóm, nhưng có thể không quan trọng, như Microsoft đã chỉ ra nó sẽ không rơi đấu thầu của mình trong hợp đồng điện toán đám mây cho Lầu Năm Góc.

Các cuộc biểu tình nội bộ tại một số công ty công nghệ mạnh nhất của Mỹ phản ánh mối quan tâm ngày càng tăng của nhân viên về tác động đạo đức của công nghệ mà họ đang phát triển. Một số cuộc biểu tình của họ đã có tác động; những người khác thì không. Nhưng những lời kêu gọi của họ đặt đạo đức và giá trị lên trước lợi nhuận đang buộc Thung lũng Silicon phải xem xét các phân nhánh đạo đức của những gì họ đang tạo ra và liệu nó có mang lại lợi ích cho nhân loại và thúc đẩy các quyền cơ bản của con người - hoặc làm ngược lại.

Nhân viên lo lắng về các hợp đồng của chính phủ

Nhân viên tại các công ty công nghệ khác nhau lo lắng về các loại dự án khác nhau, nhưng họ có một điểm chung: mối quan tâm chung về các hợp đồng của chính phủ và nguy cơ các quan chức chính phủ có thể sử dụng công nghệ của họ để vi phạm các quyền cơ bản của con người. Như một tình huống xấu nhất, họ thường trích dẫn ví dụ hợp đồng của IBM với Đức Quốc xã, trong đó công ty công nghệ Mỹ phát triển một hệ thống điều đó đã giúp Đức quốc xã phân loại, tổ chức và giết người Do Thái.

Một công nghệ được người lao động quan tâm là phần mềm nhận dạng khuôn mặt. Một nhóm 450 nhân viên Amazon được báo cáo đã ký một lá thư yêu cầu Giám đốc điều hành Jeff Bezos ngừng bán phần mềm nhận dạng khuôn mặt của mình, Rekognition, cho các cơ quan thực thi pháp luật, theo một nhân viên của Amazon người đã xuất bản một ý kiến ​​ẩn danh hôm thứ Ba trên Phương tiện (nền tảng xuất bản đã xác minh việc làm của tác giả tại Amazon).

Nhân viên này viết rằng chúng tôi không thể rời mắt khỏi chi phí nhân lực cho công việc kinh doanh của mình và gọi phần mềm là một công nghệ thiếu sót củng cố thành kiến ​​hiện có.

Theo nhân viên của Amazon, các nghiên cứu cho thấy phần mềm nhận dạng khuôn mặt thường xác định nhầm những người có làn da sẫm màu. Nhân viên đã trích dẫn một gần đây kiểm tra của phần mềm Amazon’s Rekognition của American Civil Liberties Union, tổ chức này đã chạy các bức ảnh của mọi thành viên Quốc hội dựa trên một bộ sưu tập các bức ảnh chụp chung. Có 28 kết quả trùng khớp sai và kết quả không chính xác cao hơn đối với người da màu. Nhưng cảnh sát ở Orlando đang thử nghiệm chương trình của Amazon trên camera giám sát thành phố, và cảnh sát trưởng đại diện ở Oregon được cho là đang sử dụng nó trong lĩnh vực này.

Rủi ro tiềm ẩn là quá cao, nhân viên Amazon, người đã chọn ẩn danh vì lo sợ bị trừng phạt nghề nghiệp, viết.

Từ lịch sử, chúng ta biết rằng các công cụ giám sát mới và mạnh mẽ không được kiểm soát trong tay nhà nước đã được sử dụng để nhắm vào những người không làm gì sai trái; ở Hoa Kỳ, việc thiếu trách nhiệm giải trình công khai đã dẫn đến những tác động quá lớn và chính sách quá mức đối với các cộng đồng da màu, người nhập cư và những người thực hiện các quyền của Tu chính án đầu tiên của họ. Bỏ qua những lo ngại khẩn cấp này trong khi triển khai các công nghệ mạnh mẽ cho chính phủ và các cơ quan thực thi pháp luật là điều nguy hiểm và vô trách nhiệm.

Nhân viên Amazon ẩn danh và một nhóm đồng nghiệp đã vạch ra những lo ngại này trong Bức thư họ đã gửi đến Bezos qua mùa hè , hiện đã được 450 nhân viên ký hợp đồng. Trong thư, họ cũng yêu cầu Amazon Web Services ngừng lưu trữ công ty phần mềm Palantir , giúp cơ quan quản lý xuất nhập cảnh theo dõi và trục xuất những người nhập cư. Họ cũng yêu cầu Giám đốc điều hành cho phép nhân viên đóng góp ý kiến ​​vào các quyết định của công ty, đặt ra các câu hỏi về đạo đức.

Kể từ hôm thứ Ba, Bezos đã không trả lời bức thư, nhưng anh ấy đã bảo vệ công ty ' quyết định hợp tác kinh doanh với chính phủ (Amazon cũng đang đấu thầu hợp đồng JEDI). Tính đến thời điểm báo chí, Amazon đã không trả lời câu hỏi từ Vox về yêu cầu của nhân viên.

Nhân viên của Google có tác động nhiều nhất đến việc ra quyết định của công ty

Hàng nghìn nhân viên công nghệ tại Google đã đặt câu hỏi liệu công ty có đánh mất la bàn đạo đức của mình trong việc theo đuổi công ty để làm giàu cho cổ đông hay không.

Vào tháng 4, hơn 3.000 nhân viên của Google đã phản đối hợp đồng quân sự của công ty với Lầu Năm Góc - được gọi là dự án Maven - liên quan đến công nghệ để phân tích cảnh quay video bằng máy bay không người lái có khả năng xác định và giết chết mục tiêu của con người.

Khoảng một chục kỹ sư đã từ chức vì những gì họ coi là sử dụng trí tuệ nhân tạo trái đạo đức, khiến Google phải để hợp đồng hết hạn vào tháng 6 và các giám đốc điều hành hàng đầu hứa rằng họ sẽ không bao giờ sử dụng công nghệ AI để làm hại người khác hoặc gây ra đau khổ cho con người.

Vài tháng sau, một cuộc điều tra của Intercept cho thấy Google đang bí mật thực hiện một dự án đáng ngờ khác: một nhóm kỹ sư đang phát triển một công cụ tìm kiếm được kiểm duyệt cho các quan chức Trung Quốc ở Bắc Kinh.

Theo một cuộc điều tra được công bố vào tháng 8 bởi Intercept .

Sau bản tin của Dragonfly bị rò rỉ vào tháng 8 , hơn 1.400 nhân viên của Google đã ký một lá thư yêu cầu tính minh bạch và trách nhiệm giải trình cao hơn về tác động tiềm tàng của dự án đối với nhân quyền. Cuộc tranh cãi được cho là đã khiến ít nhất 5 nhân viên của Google bỏ thuốc lá phản đối.

Hơn một chục nhóm nhân quyền cũng đã thúc giục công ty tạm dừng dự án. Như hiện tại, Google có nguy cơ trở thành đồng lõa trong việc chính phủ Trung Quốc đàn áp quyền tự do ngôn luận và nhân quyền ở Trung Quốc, Họ viết .

Bây giờ Google là được báo cáo là nứt vỡ về các nhân viên cho biết công cụ này cũng sẽ cho phép một đối tác Trung Quốc theo dõi và giám sát chặt chẽ người dùng.

Ngoài việc ẩn các kết quả tìm kiếm mà chính phủ Trung Quốc muốn ngăn chặn, công cụ tìm kiếm mới của Google cũng sẽ theo dõi vị trí của người dùng và sẽ chia sẻ lịch sử tìm kiếm của một cá nhân với một đối tác Trung Quốc, người sẽ có quyền truy cập đơn phương vào dữ liệu. Điều này bao gồm quyền truy cập vào số điện thoại của người dùng, theo bản ghi nhớ của nhân viên thu được vào tháng 9 bởi Intercept .

Các giám đốc điều hành của Google đã tiết lộ rất ít về dự án, nhưng một người phát ngôn của Google đã nói với tôi trong một tuyên bố vào đầu tháng này rằng công việc tìm kiếm đã được khám phá và chúng tôi chưa gần ra mắt sản phẩm tìm kiếm ở Trung Quốc.

Tại một sự kiện tuần này , Giám đốc điều hành Sundar Pichai nhắc lại lập trường đó và bảo vệ dự án, nói rằng làm việc ở Trung Quốc là một điều tốt và rằng Google sẽ không kiểm duyệt hầu hết các kết quả tìm kiếm của Trung Quốc .

Nếu Google tiếp tục dự án, thì đó là một sự đảo ngược đáng chú ý của lập trường vững vàng công ty đã trở lại vào năm 2010, khi họ quyết định rời khỏi Trung Quốc để phản đối việc chính phủ Trung Quốc hack Gmail và sự đàn áp của nó đối với tự do ngôn luận. Quyết định mâu thuẫn với các nguyên tắc công ty đã áp dụng vào tháng 6 sau cuộc tranh cãi về hợp đồng của Lầu Năm Góc, trong đó Pichai hứa rằng công ty sẽ không sử dụng trí tuệ nhân tạo để phát triển công nghệ có mục đích trái với các nguyên tắc được chấp nhận rộng rãi của luật pháp quốc tế và nhân quyền.

Các nhân viên của Google nói rằng những lời hứa kiểu này không còn đủ nữa, do có tin tức về công cụ kiểm duyệt và họ đang đòi hỏi một vai trò chính thức hơn trong các quyết định về tác động đạo đức trong công việc của họ.

Ngay cả khi Google thúc đẩy Dragonfly bất chấp những lo ngại của nhân viên, các yêu cầu của họ liên quan đến việc sử dụng trí tuệ nhân tạo dường như có tác động đến việc ra quyết định của công ty.

Google nói rằng nó sẽ giảm giá thầu của nó về các hợp đồng của Lầu Năm Góc một phần vì chúng tôi không thể yên tâm rằng nó sẽ phù hợp với các Nguyên tắc AI của chúng tôi.

Liên minh Công nhân Công nghệ, một nhóm các chuyên gia ở Thung lũng Silicon ủng hộ việc đầu vào nhiều hơn trong đạo đức công ty, cho biết quyết định này hoàn toàn là kết quả của áp lực từ nhân viên.