CDA人工智能學(xué)院致力于以優(yōu)質(zhì)的人工智能在線教育資源助力學(xué)員的DT職業(yè)夢(mèng)想!課程內(nèi)容涵蓋數(shù)據(jù)分析、機(jī)器學(xué)習(xí)、深度學(xué)習(xí)、人工智能、tensorFlow、PyTorch、知識(shí)圖譜等眾多核心技術(shù)及行業(yè)案例,讓每一個(gè)學(xué)員都可以在線靈活學(xué)習(xí),快速掌握AI時(shí)代的前沿技術(shù)。PS:私信我即可獲取CDA會(huì)員1個(gè)月免費(fèi)試聽機(jī)會(huì)
無論一個(gè)公司部署什么類型的大數(shù)據(jù)技術(shù)棧,有一些共通的因素必須加以考量,以保證為大數(shù)據(jù)分析工作提供一個(gè)有效的框架。在開始一個(gè)大數(shù)據(jù)項(xiàng)目之前,去審視項(xiàng)目所要承擔(dān)的新數(shù)據(jù)需求的更大圖景顯得尤為關(guān)鍵。下面來讓我們檢視四個(gè)需要加以考量的因素。
|
大數(shù)據(jù)分析 |
數(shù)據(jù)準(zhǔn)確性
數(shù)據(jù)質(zhì)量問題對(duì)于BI和數(shù)據(jù)管理專業(yè)人士來說一定不陌生。很多BI和分析團(tuán)隊(duì)努力保證數(shù)據(jù)的有效性并說服業(yè)務(wù)使用人員去信任信息資產(chǎn)的準(zhǔn)確性和可靠性。作為個(gè)性化分析庫而得以廣泛使用的電子表格或電子報(bào)表軟件可以對(duì)數(shù)據(jù)中信任缺乏的問題加以彌補(bǔ):在Excel中存儲(chǔ)和操作分析數(shù)據(jù)的功能為支持自助分析能力創(chuàng)造了環(huán)境,但可能不會(huì)激發(fā)其他用戶對(duì)結(jié)果的自信心。數(shù)據(jù)倉庫與數(shù)據(jù)集成和數(shù)據(jù)質(zhì)量工具一起,能夠通過為管理BI和分析數(shù)據(jù)提供標(biāo)準(zhǔn)化流程來幫助樹立信心。但是,由于不斷增加的數(shù)據(jù)容量和更廣泛多樣的數(shù)據(jù)類型,特別是當(dāng)涉及結(jié)構(gòu)化和非結(jié)構(gòu)化數(shù)據(jù)混合時(shí),就會(huì)對(duì)一個(gè)大數(shù)據(jù)的實(shí)施增加難度系數(shù)。建立評(píng)估數(shù)據(jù)質(zhì)量標(biāo)準(zhǔn)以及對(duì)它們進(jìn)行升級(jí)以處理那些更大、更多樣數(shù)據(jù)集,對(duì)于大數(shù)據(jù)實(shí)施的成功和分析框架的使用是至關(guān)重要的。
存儲(chǔ)適用
數(shù)據(jù)倉儲(chǔ)的一個(gè)核心要求是處理和存儲(chǔ)大數(shù)據(jù)集的能力。但并不是所有數(shù)據(jù)倉庫在這方面都滿足要求。一些是針對(duì)復(fù)雜查詢處理進(jìn)行優(yōu)化,而其他的則并非如此。并且在許多大數(shù)據(jù)應(yīng)用程序中,相較于事務(wù)系統(tǒng),由于添加了非結(jié)構(gòu)化數(shù)據(jù)還有數(shù)據(jù)的創(chuàng)建和收集增速迅猛,用Hadoop和NoSQL技術(shù)增強(qiáng)數(shù)據(jù)倉庫就成為必要。對(duì)于一個(gè)希望獲取并分析大數(shù)據(jù)的組織來說,光有存儲(chǔ)容量是不夠的;而重要的部分在于將數(shù)據(jù)置于何處才是最佳的,這樣數(shù)據(jù)就可以轉(zhuǎn)化為有用信息并為數(shù)據(jù)科學(xué)家和其他用戶所利用。
查詢性能
大數(shù)據(jù)分析依賴于及時(shí)處理和查詢復(fù)雜數(shù)據(jù)的能力。一個(gè)很好地例子就是:一家公司開發(fā)了一個(gè)數(shù)據(jù)倉庫用來維護(hù)從能源使用計(jì)收集到的數(shù)據(jù)。在產(chǎn)品評(píng)估過程中,某供應(yīng)商的系統(tǒng)有能力在15分鐘內(nèi)處理七百萬條記錄,而另一家則在相同時(shí)間內(nèi)可以處理最高三十萬條記錄。能否識(shí)別正確的基礎(chǔ)設(shè)施來支持快速的數(shù)據(jù)可用性和高性能查詢就意味著成功還是失敗。
穩(wěn)定性
隨著許多組織中數(shù)據(jù)量和數(shù)據(jù)種類的增長,大數(shù)據(jù)平臺(tái)的建立需要有對(duì)未來的考量。必須提前考慮和求證正在進(jìn)行評(píng)估的大數(shù)據(jù)技術(shù)是否能夠進(jìn)行擴(kuò)展,以達(dá)到不斷向前發(fā)展的需求所要求的級(jí)別。這便超出了存儲(chǔ)容量的范疇,將性能也包含了進(jìn)來,對(duì)那些從社交網(wǎng)絡(luò),傳感器,系統(tǒng)日志文件以及其他非事務(wù)。
關(guān)注“CDA人工智能學(xué)院”,回復(fù)“錄播”獲取更多人工智能精選直播視頻!