Buradan Algo Economicus kavramına geliyoruz. Algoritmalar, tasarımcılarının zihnindeki kullanıcı modeline göre inşa edilir. Bu modeller de çoğu zaman “ortalama kullanıcı” varsayımına dayanır. Bu ilk bakışta makul görünür. Çünkü sistem en yüksek ortalama verimi hedefler.
Ancak zamanla ilginç bir dönüşüm yaşanır. Algoritmalar yalnızca ortalamayı keşfetmez. Onu üretmeye de başlar.
Eğer milyonlarca insan aynı önerileri görüyor, aynı yazma kalıplarına yönlendiriliyor, aynı varsayılan seçeneklerle karşılaşıyorsa, kullanıcılar (ve çıktılar) giderek birbirine benzemeye başlar. Böylece “ortalama”, yalnızca bir istatistik olmaktan çıkar. İnsanların birbirine benzediği ve kümelendiği bir norma dönüşür.
İşte asıl risk burada. Heterojenliği dikkate almayan tasarım, zamanla heterojenliği azaltabilir. Farklı düşünme biçimlerini desteklemek yerine onları törpüleyebilir. Algoritmalar artık yalnızca bizi yansıtan aynalar değil, bizi biçimlendiren mimarlar haline gelebilir.
Bu yüzden risk teknolojide değil. Teknolojinin üzerine inşa edildiği insan tasarımında. Buradan çıkış da ancak düşünme alışkanlığını, sorgulamayı, merak etmeyi korumakla mümkün. Teknolojiye körü körüne teslim olarak değil.
