Đủ các câu chuyện sợ riêng tư trợ lý kỹ thuật số rồi
Alexa và Siri không ra ngoài để giúp bạn. Và chúng ta không nên làm chậm sự phát triển của công nghệ đầy hứa hẹn bằng cách khắc phục các rủi ro riêng tư.
Trong vài tháng qua, ba ấn phẩm đã gióng lên hồi chuông cảnh báo rằng các trợ lý cá nhân kỹ thuật số của chúng tôi (Alexa, Siri và cộng sự) đang theo dõi chúng tôi khi mọi người tại các công ty khiến họ lắng nghe một số tương tác của chúng tôi như là một phần của kiểm soát chất lượng quá trình. Nhiều lời quảng cáo về không nhiều lắm, tôi nói.
Bloomberg đã thực hiện một câu chuyện vào tháng Tư với tiêu đề Công nhân Amazon đang lắng nghe những gì bạn nói với Alexa. Sau đó, đài phát thanh công cộng VRT NWS của Bỉ đã phát hành một câu chuyện có tiêu đề Nhân viên của Google đang nghe lén, ngay cả trong phòng khách của bạn.
Mới nhất trả góp đến từ The Guardian 'Alex Hern s dưới tiêu đề ‘nhà thầu của Apple thường xuyên nghe các chi tiết bí mật' trên ghi Siri.’
Mặc dù các bài viết này đề cập đến những lo lắng về quyền riêng tư dữ liệu hiện tại của người tiêu dùng, nhưng các biện pháp đảm bảo chất lượng mà họ đề cập, phần lớn, là phổ biến và chỉ nhằm mục đích cải thiện sản phẩm.
Đúng là các công ty công nghệ như Apple, Google và Amazon ghi lại một phần nhỏ các tương tác trợ lý người dùng để phân tích để kiểm soát chất lượng. Có hai loại bản ghi âm này, loại bản ghi mà người dùng dự định nói chuyện với trợ lý và loại bản ghi mà họ không sử dụng. Những người cố tình đến sau khi một người dùng nói một cụm từ thức tỉnh như Hey Hey Siri, trộm khiến trợ lý bắt đầu lắng nghe. Những sự vô ý xảy ra khi người trợ lý nhầm tưởng rằng nó đã nghe thấy cụm từ đánh thức của nó và bắt đầu ghi âm lời nói hoặc âm thanh mà người dùng không có ý định giao tiếp. Trong cả hai trường hợp, các bản ghi âm mà các công ty nghiên cứu không liên quan đến danh tính của người dùng.
'Ít hơn 1%'
Các công ty công nghệ sử dụng các bản ghi âm, những người cố tình dùng để đo lường và cải thiện khả năng hiểu lời nói của người dùng, đồng thời cải thiện sự phù hợp và hữu ích của các phản hồi của trợ lý. Apple cho biết họ sử dụng ít hơn 1% các tương tác Siri hàng ngày cho mục đích này và hầu hết các bản ghi chỉ dài vài giây.
Các câu chuyện của Bloomberg , NVT NWS và Guardian không đặt câu hỏi về sự cần thiết phải đảm bảo chất lượng trợ lý kỹ thuật số, nhưng có vẻ ngạc nhiên khi con người thực tế đang xem xét các bản ghi âm.
Siêng năng. . . Điều mà mọi người chắc chắn không biết, đơn giản là vì Google không đề cập đến nó trong các điều khoản và điều kiện của nó, là nhân viên của Google có thể nghe các trích đoạn từ những bản ghi âm đó, hay lo lắng VRT NWS. Tuy nhiên, công ty không tuyên bố rõ ràng rằng công việc đó được thực hiện bởi những người nghe các bản ghi âm giả danh, ông băn khoăn The Guardian.
Ý tưởng rằng các nhân viên của một công ty công nghệ sẽ xem xét một mẫu nhỏ, ẩn danh về nội dung của một trong các dịch vụ của công ty không nên gây sốc. Nó chỉ là một loại dữ liệu công ty độc quyền khác được giữ kín, giống như các kế hoạch tiếp thị hoặc dữ liệu tài khoản người dùng của công ty. Nếu nhân viên bị rò rỉ hoặc sử dụng sai dữ liệu đó, họ có thể bị sa thải hoặc thậm chí bị truy tố.
Và nếu không phải là con người, ai sẽ xem xét các mẫu QA của hồ sơ trợ lý cá nhân? Khỉ? Bots? Trên thực tế, có thể phân loại phản hồi của Siri bằng công nghệ AI, nhưng nếu Apple đã có trí thông minh cần thiết để xây dựng công nghệ như vậy, tại sao nó lại không xây dựng trí thông minh đó vào Siri?
Siri, nghe nhầm
Nguồn của người thổi còi của The Guardian cho biết, trong các bản ghi âm của các tương tác không chủ ý, nơi trợ lý nghe nhầm từ đánh thức hoặc cụm từ đánh thức rằng dữ liệu riêng tư và nhạy cảm nhất được ghi lại.
Đôi khi, bạn chắc chắn có thể nghe một bác sĩ và bệnh nhân, nói về lịch sử y tế của bệnh nhân. Hoặc bạn nghe thấy ai đó, có thể với tiếng ồn nền động cơ xe hơi, bạn không thể nói chắc chắn, nhưng đó là một thỏa thuận về ma túy, bạn chắc chắn có thể nghe thấy điều đó xảy ra.
Người này nói Siri có thể được kích hoạt bởi âm thanh zip zip (hoặc giải nén), điều này chắc chắn có thể xảy ra trước một số đoạn hội thoại nhạy cảm. (Tôi không thể sao chép dương tính giả này bằng một số khóa kéo ở một số khoảng cách từ micrô.)
Nhưng các bản ghi không chủ ý cũng phục vụ một mục đích quan trọng. Apple, ví dụ, sử dụng các bản ghi âm này để hiểu khi nào và làm thế nào Siri nhầm một số từ hoặc âm thanh như cụm từ đánh thức của nó. Nó sử dụng thông tin đó để giảm những tích cực sai.
Nguồn tin (đơn) của The Guardian cho biết nhà thầu Apple, nguồn này hoạt động để khuyến khích nhân viên báo cáo các bản ghi không chủ ý là một vấn đề kỹ thuật. Người này không nói chính xác tần suất các kích hoạt sai này xảy ra và Apple cũng vậy. Google nói với Wired rằng các trình kích hoạt sai xảy ra trong khoảng 0,02% tương tác của Trợ lý. Nếu chúng xảy ra thường xuyên hơn với Siri, điều đó dường như nhấn mạnh đến nhu cầu thu thập các mẫu lỗi nghe đánh thức cụm từ của Siri.
Mặc dù các bản ghi không chủ ý chỉ được ẩn danh như bản ghi có chủ ý, người tố giác vẫn lo lắng rằng ai đó có thể tạo kết nối giữa bản ghi và tài khoản người dùng thực tế.
Cấm Apple đang ký hợp đồng phụ, có doanh thu cao. Không giống như mọi người đang được khuyến khích xem xét quyền riêng tư của mọi người, hoặc thậm chí xem xét nó. Nếu có ai đó có ý định bất chính, sẽ không khó để xác định [người trên bản ghi âm].
Thật khó hiểu tại sao nhân viên của nhà thầu có ý định xấu sẽ tìm mọi cách để tìm ra tên của người ghi âm, sau đó mạo hiểm công việc của họ (và hơn thế nữa) để làm gì? Tống tiền người? Bất cứ điều gì có thể, tôi đoán, nhưng có vẻ như hơi xa.
Nguồn tin của The Guardian cũng có vẻ đáng báo động rằng Apple sẽ sử dụng lao động hợp đồng, chứ không phải nhân viên của Apple, để kiểm soát chất lượng của Siri. Chào mừng đến với ngành công nghệ. Các nhà nghiên cứu của Đại học California Santa Cruz ước tính vào năm 2018 rằng 39.000 người làm việc theo hợp đồng cho các công ty công nghệ ở các hạt San Mateo và Santa Clara (nơi có Apple, Facebook, Google và nhiều công ty khác ở Thung lũng Silicon). Lần đầu tiên vào năm ngoái, Google đã thuê nhiều nhà thầu hơn nhân viên toàn thời gian. Các nhà thầu làm tất cả các loại công việc, từ thiết kế sản phẩm đến bán hàng cho đến kiểm duyệt nội dung.
Apple cho biết các tương tác Siri của họ được phân tích trong các cơ sở an toàn bởi những người đánh giá có nghĩa vụ tuân thủ các yêu cầu bảo mật nghiêm ngặt của Apple.
Phần cốt truyện của The Guardian đến ở đoạn 15:
Nhà thầu lập luận rằng Apple nên tiết lộ cho người dùng sự giám sát của con người này tồn tại và đặc biệt là ngừng xuất bản một số phản hồi vui nhộn của họ đối với các truy vấn của Siri. Ví dụ, hãy hỏi trợ lý cá nhân, bạn có luôn lắng nghe không, và nó sẽ trả lời: Tôi chỉ nghe khi bạn nói chuyện với tôi.
Đó là bằng sáng chế sai ,, nhà thầu nói. Họ lập luận rằng các tác nhân vô tình là quá thường xuyên cho một phản ứng nhẹ nhàng như vậy.
Có lẽ câu trả lời của Siri là: Tôi chỉ lắng nghe khi bạn nói chuyện với tôi (hoặc khi tôi nghĩ bạn đang nói chuyện với tôi, hoặc khi tôi đang cố gắng tìm hiểu và khai thác những bí mật cá nhân nhất của bạn.
The Guardian chỉ ra một cách đúng đắn rằng trong khi Alexa và Google Assistant cho phép người dùng từ chối các bản ghi âm, cách duy nhất người dùng Siri có thể từ chối là ngừng sử dụng Siri. Có vẻ như Apple chỉ đơn giản là không nhận thấy mối đe dọa quyền riêng tư của người dùng trong quy trình Siri QA của mình. Cho rằng người dùng có thể từ chối các vấn đề vô hại như sự cố ứng dụng của họ được báo cáo lại cho Apple, đưa ra một lựa chọn tương tự để đảm bảo chất lượng Siri sẽ phù hợp với các thông lệ khác.
Bối cảnh là tất cả
Những câu chuyện sợ hãi về quyền riêng tư của trợ lý kỹ thuật số xuất hiện vào thời điểm Alexa, Siri và Trợ lý ở dưới kính hiển vi. Chúng đại diện cho một công nghệ AI mới chưa được hiểu rõ. Công chúng vẫn là một niềm tin phổ biến, ví dụ, các micrô được sử dụng bởi các trợ lý kỹ thuật số như vậy luôn luôn lắng nghe, cho dù một từ đánh thức đã được nói ra hay chưa. Không đúng. Phần mềm âm thanh đằng sau các trợ lý sử dụng nhiều mức độ tỉnh táo và trong trạng thái nghỉ ngơi, họ chỉ lắng nghe từ hoặc cụm từ đánh thức của họ.
Và những câu chuyện đi ngược lại bối cảnh lo lắng và mất lòng tin chung của những người khổng lồ công nghệ. Do hành vi vô trách nhiệm của các công ty như Facebook, chúng tôi không còn cho rằng các công ty sẽ là người quản lý dữ liệu của chúng tôi. Apple đã xây dựng các tính năng bảo mật thực sự vào phần cứng và dịch vụ của mình, nhưng họ cũng đã nói rất nhiều về chủ đề này, dường như đã được dùng như một lời mời cho một số người coi công ty là kẻ giả hình về vấn đề này. Đó cũng là một phần của điều này.
Một phương tiện truyền thông công nghệ hoạt động nắm giữ các công ty công nghệ lớn để giải quyết các vấn đề riêng tư. Nhưng nó nên đào cho các thực hành quyền riêng tư có thể dẫn đến tổn hại rõ ràng cho người tiêu dùng trước khi báo động.
Trong vài tháng qua, ba ấn phẩm đã gióng lên hồi chuông cảnh báo rằng các trợ lý cá nhân kỹ thuật số của chúng tôi (Alexa, Siri và cộng sự) đang theo dõi chúng tôi khi mọi người tại các công ty khiến họ lắng nghe một số tương tác của chúng tôi như là một phần của kiểm soát chất lượng quá trình. Nhiều lời quảng cáo về không nhiều lắm, tôi nói.
Bloomberg đã thực hiện một câu chuyện vào tháng Tư với tiêu đề Công nhân Amazon đang lắng nghe những gì bạn nói với Alexa. Sau đó, đài phát thanh công cộng VRT NWS của Bỉ đã phát hành một câu chuyện có tiêu đề Nhân viên của Google đang nghe lén, ngay cả trong phòng khách của bạn.
Mới nhất trả góp đến từ The Guardian 'Alex Hern s dưới tiêu đề ‘nhà thầu của Apple thường xuyên nghe các chi tiết bí mật' trên ghi Siri.’
Mặc dù các bài viết này đề cập đến những lo lắng về quyền riêng tư dữ liệu hiện tại của người tiêu dùng, nhưng các biện pháp đảm bảo chất lượng mà họ đề cập, phần lớn, là phổ biến và chỉ nhằm mục đích cải thiện sản phẩm.
Đúng là các công ty công nghệ như Apple, Google và Amazon ghi lại một phần nhỏ các tương tác trợ lý người dùng để phân tích để kiểm soát chất lượng. Có hai loại bản ghi âm này, loại bản ghi mà người dùng dự định nói chuyện với trợ lý và loại bản ghi mà họ không sử dụng. Những người cố tình đến sau khi một người dùng nói một cụm từ thức tỉnh như Hey Hey Siri, trộm khiến trợ lý bắt đầu lắng nghe. Những sự vô ý xảy ra khi người trợ lý nhầm tưởng rằng nó đã nghe thấy cụm từ đánh thức của nó và bắt đầu ghi âm lời nói hoặc âm thanh mà người dùng không có ý định giao tiếp. Trong cả hai trường hợp, các bản ghi âm mà các công ty nghiên cứu không liên quan đến danh tính của người dùng.
'Ít hơn 1%'
Các công ty công nghệ sử dụng các bản ghi âm, những người cố tình dùng để đo lường và cải thiện khả năng hiểu lời nói của người dùng, đồng thời cải thiện sự phù hợp và hữu ích của các phản hồi của trợ lý. Apple cho biết họ sử dụng ít hơn 1% các tương tác Siri hàng ngày cho mục đích này và hầu hết các bản ghi chỉ dài vài giây.
Các câu chuyện của Bloomberg , NVT NWS và Guardian không đặt câu hỏi về sự cần thiết phải đảm bảo chất lượng trợ lý kỹ thuật số, nhưng có vẻ ngạc nhiên khi con người thực tế đang xem xét các bản ghi âm.
Siêng năng. . . Điều mà mọi người chắc chắn không biết, đơn giản là vì Google không đề cập đến nó trong các điều khoản và điều kiện của nó, là nhân viên của Google có thể nghe các trích đoạn từ những bản ghi âm đó, hay lo lắng VRT NWS. Tuy nhiên, công ty không tuyên bố rõ ràng rằng công việc đó được thực hiện bởi những người nghe các bản ghi âm giả danh, ông băn khoăn The Guardian.
Ý tưởng rằng các nhân viên của một công ty công nghệ sẽ xem xét một mẫu nhỏ, ẩn danh về nội dung của một trong các dịch vụ của công ty không nên gây sốc. Nó chỉ là một loại dữ liệu công ty độc quyền khác được giữ kín, giống như các kế hoạch tiếp thị hoặc dữ liệu tài khoản người dùng của công ty. Nếu nhân viên bị rò rỉ hoặc sử dụng sai dữ liệu đó, họ có thể bị sa thải hoặc thậm chí bị truy tố.
Và nếu không phải là con người, ai sẽ xem xét các mẫu QA của hồ sơ trợ lý cá nhân? Khỉ? Bots? Trên thực tế, có thể phân loại phản hồi của Siri bằng công nghệ AI, nhưng nếu Apple đã có trí thông minh cần thiết để xây dựng công nghệ như vậy, tại sao nó lại không xây dựng trí thông minh đó vào Siri?
Siri, nghe nhầm
Nguồn của người thổi còi của The Guardian cho biết, trong các bản ghi âm của các tương tác không chủ ý, nơi trợ lý nghe nhầm từ đánh thức hoặc cụm từ đánh thức rằng dữ liệu riêng tư và nhạy cảm nhất được ghi lại.
Đôi khi, bạn chắc chắn có thể nghe một bác sĩ và bệnh nhân, nói về lịch sử y tế của bệnh nhân. Hoặc bạn nghe thấy ai đó, có thể với tiếng ồn nền động cơ xe hơi, bạn không thể nói chắc chắn, nhưng đó là một thỏa thuận về ma túy, bạn chắc chắn có thể nghe thấy điều đó xảy ra.
Người này nói Siri có thể được kích hoạt bởi âm thanh zip zip (hoặc giải nén), điều này chắc chắn có thể xảy ra trước một số đoạn hội thoại nhạy cảm. (Tôi không thể sao chép dương tính giả này bằng một số khóa kéo ở một số khoảng cách từ micrô.)
Nhưng các bản ghi không chủ ý cũng phục vụ một mục đích quan trọng. Apple, ví dụ, sử dụng các bản ghi âm này để hiểu khi nào và làm thế nào Siri nhầm một số từ hoặc âm thanh như cụm từ đánh thức của nó. Nó sử dụng thông tin đó để giảm những tích cực sai.
Nguồn tin (đơn) của The Guardian cho biết nhà thầu Apple, nguồn này hoạt động để khuyến khích nhân viên báo cáo các bản ghi không chủ ý là một vấn đề kỹ thuật. Người này không nói chính xác tần suất các kích hoạt sai này xảy ra và Apple cũng vậy. Google nói với Wired rằng các trình kích hoạt sai xảy ra trong khoảng 0,02% tương tác của Trợ lý. Nếu chúng xảy ra thường xuyên hơn với Siri, điều đó dường như nhấn mạnh đến nhu cầu thu thập các mẫu lỗi nghe đánh thức cụm từ của Siri.
Mặc dù các bản ghi không chủ ý chỉ được ẩn danh như bản ghi có chủ ý, người tố giác vẫn lo lắng rằng ai đó có thể tạo kết nối giữa bản ghi và tài khoản người dùng thực tế.
Cấm Apple đang ký hợp đồng phụ, có doanh thu cao. Không giống như mọi người đang được khuyến khích xem xét quyền riêng tư của mọi người, hoặc thậm chí xem xét nó. Nếu có ai đó có ý định bất chính, sẽ không khó để xác định [người trên bản ghi âm].
Thật khó hiểu tại sao nhân viên của nhà thầu có ý định xấu sẽ tìm mọi cách để tìm ra tên của người ghi âm, sau đó mạo hiểm công việc của họ (và hơn thế nữa) để làm gì? Tống tiền người? Bất cứ điều gì có thể, tôi đoán, nhưng có vẻ như hơi xa.
Nguồn tin của The Guardian cũng có vẻ đáng báo động rằng Apple sẽ sử dụng lao động hợp đồng, chứ không phải nhân viên của Apple, để kiểm soát chất lượng của Siri. Chào mừng đến với ngành công nghệ. Các nhà nghiên cứu của Đại học California Santa Cruz ước tính vào năm 2018 rằng 39.000 người làm việc theo hợp đồng cho các công ty công nghệ ở các hạt San Mateo và Santa Clara (nơi có Apple, Facebook, Google và nhiều công ty khác ở Thung lũng Silicon). Lần đầu tiên vào năm ngoái, Google đã thuê nhiều nhà thầu hơn nhân viên toàn thời gian. Các nhà thầu làm tất cả các loại công việc, từ thiết kế sản phẩm đến bán hàng cho đến kiểm duyệt nội dung.
Apple cho biết các tương tác Siri của họ được phân tích trong các cơ sở an toàn bởi những người đánh giá có nghĩa vụ tuân thủ các yêu cầu bảo mật nghiêm ngặt của Apple.
Phần cốt truyện của The Guardian đến ở đoạn 15:
Nhà thầu lập luận rằng Apple nên tiết lộ cho người dùng sự giám sát của con người này tồn tại và đặc biệt là ngừng xuất bản một số phản hồi vui nhộn của họ đối với các truy vấn của Siri. Ví dụ, hãy hỏi trợ lý cá nhân, bạn có luôn lắng nghe không, và nó sẽ trả lời: Tôi chỉ nghe khi bạn nói chuyện với tôi.
Đó là bằng sáng chế sai ,, nhà thầu nói. Họ lập luận rằng các tác nhân vô tình là quá thường xuyên cho một phản ứng nhẹ nhàng như vậy.
Có lẽ câu trả lời của Siri là: Tôi chỉ lắng nghe khi bạn nói chuyện với tôi (hoặc khi tôi nghĩ bạn đang nói chuyện với tôi, hoặc khi tôi đang cố gắng tìm hiểu và khai thác những bí mật cá nhân nhất của bạn.
The Guardian chỉ ra một cách đúng đắn rằng trong khi Alexa và Google Assistant cho phép người dùng từ chối các bản ghi âm, cách duy nhất người dùng Siri có thể từ chối là ngừng sử dụng Siri. Có vẻ như Apple chỉ đơn giản là không nhận thấy mối đe dọa quyền riêng tư của người dùng trong quy trình Siri QA của mình. Cho rằng người dùng có thể từ chối các vấn đề vô hại như sự cố ứng dụng của họ được báo cáo lại cho Apple, đưa ra một lựa chọn tương tự để đảm bảo chất lượng Siri sẽ phù hợp với các thông lệ khác.
Bối cảnh là tất cả
Những câu chuyện sợ hãi về quyền riêng tư của trợ lý kỹ thuật số xuất hiện vào thời điểm Alexa, Siri và Trợ lý ở dưới kính hiển vi. Chúng đại diện cho một công nghệ AI mới chưa được hiểu rõ. Công chúng vẫn là một niềm tin phổ biến, ví dụ, các micrô được sử dụng bởi các trợ lý kỹ thuật số như vậy luôn luôn lắng nghe, cho dù một từ đánh thức đã được nói ra hay chưa. Không đúng. Phần mềm âm thanh đằng sau các trợ lý sử dụng nhiều mức độ tỉnh táo và trong trạng thái nghỉ ngơi, họ chỉ lắng nghe từ hoặc cụm từ đánh thức của họ.
Và những câu chuyện đi ngược lại bối cảnh lo lắng và mất lòng tin chung của những người khổng lồ công nghệ. Do hành vi vô trách nhiệm của các công ty như Facebook, chúng tôi không còn cho rằng các công ty sẽ là người quản lý dữ liệu của chúng tôi. Apple đã xây dựng các tính năng bảo mật thực sự vào phần cứng và dịch vụ của mình, nhưng họ cũng đã nói rất nhiều về chủ đề này, dường như đã được dùng như một lời mời cho một số người coi công ty là kẻ giả hình về vấn đề này. Đó cũng là một phần của điều này.
Một phương tiện truyền thông công nghệ hoạt động nắm giữ các công ty công nghệ lớn để giải quyết các vấn đề riêng tư. Nhưng nó nên đào cho các thực hành quyền riêng tư có thể dẫn đến tổn hại rõ ràng cho người tiêu dùng trước khi báo động.
Nhận xét
Đăng nhận xét