Những hiểu biết đó sẽ được kiểm tra, hay đơn giản là được sử dụng để biện minh cho hiện trạng và củng cố định kiến? Khi tôi xem xét những cách cẩu thả và tự phục vụ mà các công ty sử dụng dữ liệu, tôi thường nhắc nhở về Phrenology, một giả khoa học ngắn gọn trong thế kỷ XIX. Các nhà phrenologist sẽ chạy ngón tay của họ trên hộp sọ của bệnh nhân, thăm dò các vết sưng và vết lõm. Mỗi người, họ nghĩ, có liên quan đến các đặc điểm tính cách tồn tại ở hai mươi bảy vùng của não. Thông thường, kết luận của nhà phrenologist đã nói với những quan sát mà ông đã thực hiện. Nếu bệnh nhân lo lắng hoặc bị nghiện rượu, thì đầu dò sọ thường sẽ tìm thấy những vết sưng và giảm tương quan với quan sát đó – đến lượt nó, đã củng cố niềm tin vào khoa học về phrenology. Phrenology là một mô hình dựa vào những điều vô nghĩa giả khoa học để đưa ra những tuyên bố có thẩm quyền, và trong nhiều thập kỷ, nó đã không được kiểm chứng. Dữ liệu lớn có thể rơi vào cùng một cái bẫy. Các mô hình giống như những mô hình mà Kyle Behm ánh sáng đỏ và các sinh viên y khoa nước ngoài bị đánh bóng đen và St. George’s có thể khóa mọi người, ngay cả khi “khoa học” bên trong họ không chỉ là một loạt các giả định chưa được kiểm tra.
Will those insights be tested,or simply used to justify the status quo and reinforce prejudices? When I consider the sloppy and self-serving ways that companies use data, I’m often reminded of phrenology, a pseudoscience that was briefly the rage in the nineteenth century. Phrenologists would run their fingers over the patient’s skull, probing for bumps and indentations. Each one, they thought, was linked to personality traits that existed in twenty-seven regions of the brain. Usually the conclusion of the phrenologist jibed with the observations he made. If the patient was morbidly anxious or suffering from alcoholism, the skull probe would usually find bumps and dips that correlated with that observation – which, in turn, bolstered faith in the science of phrenology. Phrenology was a model that relied on pseudoscientific nonsense to make authoritative pronouncements, and for decades it went untested. Big Data can fall into the same trap. Models like the ones that red-lighted Kyle Behm and black-balled foreign medical students and St. George’s can lock people out, even when the “science” inside them is little more than a bundle of untested assumptions.
Robert Kanigel, The Man Who Knew Infinity: A Life of the Genius Ramanujan