1.0Fortune Insighthttps://prime.fortuneinsight.com/web古紀達博士https://prime.fortuneinsight.com/web/posts/author/ecfredrich600338<blockquote class="wp-embedded-content"><a href="https://prime.fortuneinsight.com/web/posts/489708">「唔係我歧視你，係部電腦歧視你」—— 虎媽稅、歧視與產品差異</a></blockquote> <script type='text/javascript'> <!--//--><![CDATA[//><!-- !function(c,d){"use strict";var e=!1,n=!1;if(d.querySelector)if(c.addEventListener)e=!0;if(c.wp=c.wp||{},!c.wp.receiveEmbedMessage)if(c.wp.receiveEmbedMessage=function(e){var t=e.data;if(t)if(t.secret||t.message||t.value)if(!/[^a-zA-Z0-9]/.test(t.secret)){for(var r,a,i,s=d.querySelectorAll('iframe[data-secret="'+t.secret+'"]'),n=d.querySelectorAll('blockquote[data-secret="'+t.secret+'"]'),o=0;o<n.length;o++)n[o].style.display="none";for(o=0;o<s.length;o++)if(r=s[o],e.source===r.contentWindow){if(r.removeAttribute("style"),"height"===t.message){if(1e3<(i=parseInt(t.value,10)))i=1e3;else if(~~i<200)i=200;r.height=i}if("link"===t.message)if(a=d.createElement("a"),i=d.createElement("a"),a.href=r.getAttribute("src"),i.href=t.value,i.host===a.host)if(d.activeElement===r)c.top.location.href=t.value}}},e)c.addEventListener("message",c.wp.receiveEmbedMessage,!1),d.addEventListener("DOMContentLoaded",t,!1),c.addEventListener("load",t,!1);function t(){if(!n){n=!0;for(var e,t,r=-1!==navigator.appVersion.indexOf("MSIE 10"),a=!!navigator.userAgent.match(/Trident.*rv:11\./),i=d.querySelectorAll("iframe.wp-embedded-content"),s=0;s<i.length;s++){if(!(e=i[s]).getAttribute("data-secret"))t=Math.random().toString(36).substr(2,10),e.src+="#?secret="+t,e.setAttribute("data-secret",t);if(r||a)(t=e.cloneNode(!0)).removeAttribute("security"),e.parentNode.replaceChild(t,e)}}}}(window,document); //--><!]]> </script><iframe sandbox="allow-scripts" security="restricted" src="https://prime.fortuneinsight.com/web/posts/489708/embed" width="600" height="338" title="“「唔係我歧視你，係部電腦歧視你」—— 虎媽稅、歧視與產品差異” — Fortune Insight" frameborder="0" marginwidth="0" marginheight="0" scrolling="no" class="wp-embedded-content"></iframe>https://prime.fortuneinsight.com/web/wp-content/uploads/2020/09/2020-0918.png720405有人說歧視是人類的天性，更是人類進化以及賴以維生的重要能力。   用人工智能協助做商業決定，是否就沒有歧視？   早前與大家分享過，以人工智能協助訂價，一方面可以讓企業就市場的情況調節價格，另一方面更會使企業間的價格競爭變得緩和 （見〈以人工智能訂價  反可緩和價格競爭〉）。這對企業來說無疑是一件好事。   但有學者就提出，人工智能卻可能會造成歧視。   歧視的問題由來已久。從社會上、職場上的種族、性別、社會階層（social class）歧視，到商業、金融上的差別待遇，牽涉層面廣泛。   這次就和大家討論一下演算法歧視 （algorithmic discrimination）。   人工智能可以透過分析數據，以不同的演算法去做不同的商業決定，例如釐定個人化的價格，設計個人化的推廣，估計個人信貸評級 (credit rating) 等等。但不論使用什麼手法都好，其目標都是為不同消費者制定不同的價格及推廣，從而提高企業的盈利。   保險業就是一個好例子。保險公司可透過不同的用戶數據去推斷其面對的風險，以釐訂不同的保險費。例如根據客戶的地址，保險公司既可以運用該地區的犯罪率評估風險，亦可以估計客戶的家庭收入、經濟狀況、教育水平等等的家庭背景。透過這些內、外的因素，保險公司就可以為客戶「度身訂造」保費。   心水清的讀者可能已經發現，這種透過數據了解客戶，設計價格的營運模式，其實並不新奇。例如汽車保險，就以駕駛者的年齡（是否年青駕駛者）、經驗（是否「新牌仔」）、過去相關事件（有否不小心駕駛記錄、有否出現交通事故）、甚至職業去釐訂保費。一般來說，年輕的「新牌仔」保費較高，若出現過交通事故，則保費更高甚至「買唔到保險」。其背後理由，當然是保險公司認為年輕的駕駛者風險高，「新牌仔」風險高，若是以前出現過交通事故或犯過「不小心駕駛」罪的話，風險更高。因此為免做蝕本生意，保險公司就要收取更高的保費，甚至選擇「唔做你生意」。   年輕駕駛者的保費較高。後生仔較容易衝動，又缺少路面經驗，容易出事。風險高，保費自然高。這算不算是年齡歧視？   透過你的地址，估計你家境富裕，有能力負擔較高的價格，因此訂下較高的費用。住私樓？收你貴啲。這算不算是家境歧視？   透過你的名字，估計你的種族，從而推測你的職業、家境，估計你破產、「走佬」的風險高，拒絕借貸申請。這算不算是種族歧視？（事實上不少調查發現，很多國家的有色人種較難得到財務、金融服務）   在2015年就有一個有名的案例。   總部設在美國麻省的 Princeton Review，是一間大型的國際「補習社」。專門幫助學生惡補AP，SAT，TOEFL，GMAT等公開試。一進入網站就見其主打「 Maximum Results. Minimum Time.」。 其補習課程不論地域，都可以在網上進行。   四名哈佛大學的學生透過研究Princeton Review網上課程的價格，發現它們透過用戶的郵政編碼（zip code） 收取由USD 2,760 到 USD3,240等不同的價格，相差可以達到USD 480 （約港幣$3700）。平均收入較高的地區，價格亦越高。   及後非牟利媒體 ProPublica […]