2006年,英國數學(xué)家Clive Humbly和Tesco俱樂(lè )部卡的設計師創(chuàng )造了“數據就是新油(Data is the new oil)”這句話(huà)。他說(shuō):
“數據是新的石油。它很有價(jià)值,但如果未經(jīng)提煉就不能使用。它必須轉變?yōu)樘烊粴?,塑料,化學(xué)品等,以創(chuàng )造一個(gè)有價(jià)值的實(shí)體驅動(dòng)盈利的活動(dòng); 所以,必須對數據進(jìn)行分解和分析,才能使其具有價(jià)值?!?/em>
數據科學(xué)是一個(gè)多學(xué)科領(lǐng)域。它是以下領(lǐng)域之間的交集:
我們的重點(diǎn)將是簡(jiǎn)化數據科學(xué)的機器學(xué)習方面。在本文中,我將首先介紹數據科學(xué)中的原理,一般過(guò)程和問(wèn)題類(lèi)型。
關(guān)鍵原理
處理
根據第二條原則,現在讓我強調一下數據科學(xué)的過(guò)程部分。以下是一個(gè)典型的數據科學(xué)項目的階段:
1.定義業(yè)務(wù)問(wèn)題
阿爾伯特愛(ài)因斯坦曾引用“每件事都應該盡可能地簡(jiǎn)單,但不能越簡(jiǎn)單越好”。這句話(huà)是定義業(yè)務(wù)問(wèn)題的關(guān)鍵。需要開(kāi)發(fā)和構建問(wèn)題陳述,需要建立明確的成功標準。根據我的經(jīng)驗,業(yè)務(wù)團隊忙于處理他們的操作任務(wù)。這并不意味著(zhù)他們沒(méi)有需要解決的挑戰。頭腦風(fēng)暴會(huì )議,研討會(huì )和訪(fǎng)談可以幫助發(fā)現這些挑戰并提出假設。讓我用一個(gè)例子來(lái)說(shuō)明這一點(diǎn)。讓我們假設一家電信公司由于客戶(hù)群減少而導致其同比收入下降。在這種情況下,業(yè)務(wù)問(wèn)題可能定義為:
2.分解為機器學(xué)習任務(wù)
業(yè)務(wù)問(wèn)題一旦定義,就需要分解為機器學(xué)習任務(wù)。讓我們詳細說(shuō)明我們在上面設置的示例。如果組織需要通過(guò)定位新的細分市場(chǎng)并減少客戶(hù)流失來(lái)擴大客戶(hù)群,那么我們如何將其分解為機器學(xué)習問(wèn)題?以下是分解的示例:
3.數據準備
一旦我們定義了業(yè)務(wù)問(wèn)題并將其分解為機器學(xué)習問(wèn)題,我們就需要深入研究數據。數據理解應該明確手頭的問(wèn)題。它應該有助于我們制定正確的分析策略。需要注意的關(guān)鍵事項是數據來(lái)源,數據質(zhì)量,數據偏差等。
4.探索性數據分析
宇航員穿越宇宙的未知。同樣,數據科學(xué)家遍歷數據模式的未知,窺探其特征的奧秘并制定出未被探索的內容。探索性數據分析(EDA)是一項令人興奮的任務(wù)。我們可以更好地理解數據,研究其中的細微差別,發(fā)現隱藏的模式,開(kāi)發(fā)新特性并制定建模策略。
5.建模
在EDA之后,我們進(jìn)入建模階段。在這里,我們根據具體的機器學(xué)習問(wèn)題,我們應用有用的算法,如回歸,決策樹(shù),隨機森林等。
6.部署和評估
最后,對所開(kāi)發(fā)的模型進(jìn)行了部署。它們被持續監測,以觀(guān)察它們在現實(shí)世界中的行為,并據此進(jìn)行校準。
通常,建模和部署部分僅占工作量的20%。80%的工作是接觸數據,探索數據并理解數據。
機器學(xué)習問(wèn)題類(lèi)型
一般來(lái)說(shuō),機器學(xué)習有兩種任務(wù):
監督學(xué)習
監督學(xué)習是一種機器學(xué)習任務(wù),其中存在已定義的目標。從概念上講,建模者將監督機器學(xué)習模型以實(shí)現特定目標。監督學(xué)習可以進(jìn)一步分為兩類(lèi):
回歸
回歸是機器學(xué)習任務(wù)的主力。它們用于估計或預測數值變量?;貧w模型的幾個(gè)例子可以是:
分類(lèi)
顧名思義,分類(lèi)模型對某些事物進(jìn)行了分類(lèi)。估計哪個(gè)最合適。分類(lèi)模型經(jīng)常用于所有類(lèi)型的應用程序。分類(lèi)模型的例子很少:
無(wú)監督學(xué)習
無(wú)監督學(xué)習是一類(lèi)沒(méi)有目標的機器學(xué)習任務(wù)。由于無(wú)監督學(xué)習沒(méi)有任何特定目標,因此有時(shí)難以解釋其產(chǎn)生的結果。有許多類(lèi)型的無(wú)監督學(xué)習任務(wù)。關(guān)鍵是:
機器學(xué)習任務(wù)從模型到算法
一旦我們將業(yè)務(wù)問(wèn)題分解為機器學(xué)習任務(wù),一個(gè)或多個(gè)算法就可以解決給定的機器學(xué)習任務(wù)。通常,模型是在多種算法上訓練的。選擇提供最佳結果的算法或算法集用于部署。
Azure Machine Learning具有30多種預先構建的算法,可用于訓練機器學(xué)習模型。
Azure Machine Learning備忘錄將有助于瀏覽它。
結論
數據科學(xué)是一個(gè)廣闊的領(lǐng)域。這是一個(gè)令人興奮的領(lǐng)域。這是一門(mén)藝術(shù),這是一門(mén)科學(xué)。在本文中,我們剛剛探討了冰山的表面。如果不知道“為什么”,那么“如何”將是徒勞的。在隨后的文章中,我們將探討機器學(xué)習的“原理”。
聯(lián)系客服