Tất cả chúng ta đang bị thao túng bởi thử nghiệm A / B mọi lúc

 Trang web đang được định hình lại theo phương pháp phổ biến - và đó là một vấn đề đạo đức nghiêm trọng.

[Hình ảnh nguồn: vasabii / iStock]

HƠN NHƯ THẾ NÀY

Video âm nhạc vui nhộn trình bày chính xác lý do tại sao chúng ta không thể bỏ điện thoại nắp gập

Tại sao thêm 'Plus' vào tên của mọi dịch vụ phát trực tuyến lại thực sự tốt

AI phi thường này đã khiến các nhà khoa học máy tính choáng váng với khả năng viết của nó

BỞI KATHARINE SCHWAB4 PHÚT ĐỌC

Thử nghiệm các giải pháp là một phần cốt lõi của quá trình thiết kế và trên web, điều này thường xảy ra dưới dạng thử nghiệm A / B: Nhà thiết kế hiển thị một nhóm người dùng thiết kế A, một nhóm người dùng khác thiết kế B và đo lường nhóm nào tiến gần hơn đến một kết quả mong muốn. Và không chỉ bố cục được thử nghiệm A / B – những thử nghiệm này xác định mọi thứ từ tiêu đề chúng ta đọc đến màu sắc chúng ta thấy .

Nhưng như một bài báo mới thảo luận, có thể có các vấn đề đạo đức với thử nghiệm A / B.

[Hình ảnh nguồn: vasabii / iStock]

Christo Wilson, phó giáo sư tại Đại học Northeastern, người nghiên cứu về kiểm toán thuật toán cho biết: “Nếu bạn không hiểu nội dung thay đổi như thế nào hoặc cách bố cục thay đổi theo những cách được thiết kế để ảnh hưởng đến hành vi của bạn, thì điều đó khiến bạn dễ bị thao túng. , và tác giả của bài báo. “Đây là toàn bộ điểm của bài kiểm tra A / B. Bạn đang cố gắng bán nhiều sản phẩm hơn hoặc nhận được nhiều nhấp chuột hơn ”.

Trong bài báo được trình bày tại hội nghị Công bằng, Trách nhiệm giải trình và Minh bạch hàng năm của ACM , Wilson và các đồng tác giả của mình đã phân tích 575 trang web lớn chạy thử nghiệm A / B trên nền tảng Optimizely , điều này tương đối dễ dàng đối với những người không chuyên về kỹ thuật để sử dụng thử nghiệm A / B theo nhiều cách khác nhau. Trong bài báo, Wilson đi sâu vào ba nghiên cứu điển hình cụ thể: quảng cáo, phân biệt giá cả và tiêu đề tin tức. Mặc dù anh ấy không đổ lỗi cho bất kỳ công ty hoặc trường hợp sử dụng nào về việc áp dụng thử nghiệm A / B một cách phi đạo đức, nhưng Wilson thực sự sử dụng cơ hội để làm sáng tỏ cách các công ty đang sử dụng công nghệ ít được kiểm tra này để thay đổi những gì mọi người thấy trên internet, cho dù giá cả, quảng cáo, tiêu đề , hoặc bố cục.

Vấn đề là, khi nó không được thực hiện một cách minh bạch và có trách nhiệm, thử nghiệm A / B có thể tận dụng những xung lực tồi tệ nhất của tâm lý con người để thuyết phục bạn nhấp vào thứ gì đó. Ví dụ, khi nói đến nội dung chính trị, kiểu giật gân đó góp phần vào sự phân cực chính trị.

[Hình ảnh nguồn: vasabii / iStock]

Nhiều người trong chúng ta có thể cho rằng chúng ta thấy những thứ giống nhau khi chúng ta di chuyển trên web, nhưng điều đó không nhất thiết phải như vậy. Để xem các thử nghiệm A / B đang chạy trên bất kỳ trang web cụ thể nào mà bạn truy cập, bạn có thể tải xuống tiện ích mở rộng trình duyệt Chrome có tên Pessimizely sẽ tiết lộ mọi thứ mà Optimizely đang tạo điều kiện, từ việc các nhà quảng cáo đang thử nghiệm quảng cáo nào sẽ hiển thị cho bạn đến thử nghiệm của Thời báo New York. tiêu đề.

Phân tích của Wilson cho thấy rằng hiện tại hầu hết các trang web sử dụng thử nghiệm A / B là một số trang web lớn nhất trên internet. Và nó có thể sẽ trở nên phổ biến hơn: Sử dụng các công cụ như Optimizely có thể giúp tạo sân chơi cho các công ty nhỏ hơn. “Tôi muốn thấy các trang web nhỏ hơn có thể cạnh tranh với các trang web lớn hơn, vì vậy nếu thử nghiệm A / B là một cách để làm điều đó thì đó là một điều tốt. Tôi rất vui vì những người ít kỹ thuật hơn lại có những khả năng phức tạp - đó không phải chỉ là Google và Facebook, ”anh nói. “Mặt khác, tôi chỉ lo ngại rằng bạn có nhiều người chưa được đào tạo hơn đang chạy thử nghiệm trên nhiều đối tượng.”

Khi nói đến quảng cáo, các khả năng sử dụng phi đạo đức đặc biệt khó khăn. Ví dụ: giả sử bạn đăng hai quảng cáo về một công việc được trả lương cao trong một ngành công nghiệp do nam giới thống trị. Một bao gồm hình ảnh về định kiến ​​giới tính nam, một hình ảnh khác là phân biệt giới tính. Thử nghiệm A / B có thể cho bạn thấy rằng có nhiều người hơn nhấp vào quảng cáo theo giới tính đó. Điều đó thuyết phục bạn hiển thị quảng cáo đó cho nhiều người hơn. Nhưng tất cả những người nhấp vào quảng cáo đó có thể là nam giới, dẫn đến số lượng người nộp đơn xin việc bị lệch. Và những người nhìn thấy những quảng cáo này có thể không biết những gì đang diễn ra trong nền.

Các nhà nghiên cứu viết: “Chúng tôi nhận thấy rằng Optimizely được sử dụng bởi nhiều trang web cực kỳ phổ biến. “Tuy nhiên, theo hiểu biết của chúng tôi, khách truy cập vào các trang web này không bao giờ được yêu cầu đồng ý rõ ràng với các thử nghiệm này. Ngay cả sự tồn tại của các thí nghiệm cũng hiếm khi được tiết lộ ”.

[Hình ảnh nguồn: vasabii / iStock]

Phân biệt giá cả là một ví dụ khác về việc những gì bạn thấy trực tuyến có thể khác với những gì người khác nhìn thấy: Ví dụ: thử nghiệm A / B có thể giúp tối ưu hóa giá cho những người ở các mã zip khác nhau, nhưng nơi mọi người sống thường đan xen với chủng tộc của họ, có khả năng dẫn đến định giá dựa trên chủng tộc .

Wilson tin rằng cần có những hướng dẫn chặt chẽ hơn về cách thức tiến hành các thí nghiệm này. “Tôi không có ý miêu tả tất cả những điều này là xấu xa,” anh nói. “Nhưng chúng tôi phải thừa nhận rằng đây là những thí nghiệm của con người. Bạn đang cố gắng thay đổi hành vi của mọi người. Nếu tôi làm điều đó với tư cách là một nhà khoa học ở một trường đại học, thì có một quy trình. Bạn không thể chỉ thử nghiệm trên con người ”.

Có một số cách đơn giản mà các công ty và nền tảng thử nghiệm A / B như Optimizely có thể hiểu rõ hơn về một số giao thức thử nghiệm này, là những giao thức điển hình cho các nhà khoa học. Wilson hình dung ra một hội đồng đánh giá nội bộ của công ty để đảm bảo rằng các thử nghiệm sẽ không vô tình gây hại, cũng như một dịch vụ bên ngoài mà công ty có thể ký hợp đồng để xem xét các kế hoạch nghiên cứu. Một nhóm thương mại trong ngành với các hướng dẫn được xuất bản cũng có thể giúp đỡ, hoặc thậm chí chỉ là đào tạo thêm từ các nền tảng như Optimizely. Ông tưởng tượng những hướng dẫn này sẽ tương tự như những gì tồn tại trong học viện, với các quy tắc về tôn trọng mọi người, tôn trọng quyền tự chủ và quyền lợi - nghĩa vụ hành động vì lợi ích của người khác.

Wilson nói: “Điều này thực sự quan trọng vì những công cụ này rất dễ sử dụng. “Nhưng nó phải đi kèm với một số cảnh báo. Nếu bạn định làm điều gì đó như phân biệt giá cả, đó có thể là một điều nghiêm trọng. Bạn đang đối xử với mọi người theo cách công bằng và công bằng hay bạn chỉ phớt lờ điều đó và nói rằng tất cả những gì tôi quan tâm là thúc đẩy nhấp chuột?