數據處理主要有四種分類(lèi)方式:
①根據處理設備的結構方式區分,有聯(lián)機處理方式和脫機處理方式。
②根據數據處理時(shí)間的分配方式區分,有批處理方式、分時(shí)處理方式和實(shí)時(shí)處理方式。
③根據數據處理空間的分布方式區分,有集中式處理方式和分布處理方式。
④根據計算機中央處理器的工作方式區分,有單道作業(yè)處理方式、多道作業(yè)處理方式和交互式處理方式。
實(shí)驗數據的處理方法:
1. 平均值法
取算術(shù)平均值是為減小偶然誤差而常用的一種數據處理方法。通常在同樣的測量條件下,對于某一物理量進(jìn)行多次測量的結果不會(huì )完全一樣,用多次測量的算術(shù)平均值作為測量結果,是真實(shí)值的最好近似。
2. 列表法
實(shí)驗中將數據列成表格,可以簡(jiǎn)明地表示出有關(guān)物理量之間的關(guān)系,便于檢查測量結果和運算是否合理,有助于發(fā)現和分析問(wèn)題,而且列表法還是圖象法的基礎。
列表時(shí)應注意:
①表格要直接地反映有關(guān)物理量之間的關(guān)系,一般把自變量寫(xiě)在前邊,因變量緊接著(zhù)寫(xiě)在后面,便于分析。
②表格要清楚地反映測量的次數,測得的物理量的名稱(chēng)及單位,計算的物理量的名稱(chēng)及單位。物理量的單位可寫(xiě)在標題欄內,一般不在數值欄內重復出現。
③表中所列數據要正確反映測量值的有效數字。
3. 作圖法
選取適當的自變量,通過(guò)作圖可以找到或反映物理量之間的變化關(guān)系,并便于找出其中的規律,確定對應量的函數關(guān)系。作圖法是最常用的實(shí)驗數據處理方法之一。
描繪圖象的要求是:
①根據測量的要求選定坐標軸,一般以橫軸為自變量,縱軸為因變量。坐標軸要標明所代表的物理量的名稱(chēng)及單位。
②坐標軸標度的選擇應合適,使測量數據能在坐標軸上得到準確的反映。為避免圖紙上出現大片空白,坐標原點(diǎn)可以是零,也可以不是零。坐標軸的分度的估讀數,應與測量值的估讀數(即有效數字的末位)相對應。
一、掌握基礎、更新知識。
基本技術(shù)怎么強調都不過(guò)分。這里的術(shù)更多是(計算機、統計知識), 多年做數據分析、數據挖掘的經(jīng)歷來(lái)看、以及業(yè)界朋友的交流來(lái)看,這點(diǎn)大家深有感觸的。
數據庫查詢(xún)—SQL 數據分析師在計算機的層面的技能要求較低,主要是會(huì )SQL,因為這里解決一個(gè)數據提取的問(wèn)題。有機會(huì )可以去逛逛一些專(zhuān)業(yè)的數據論壇,學(xué)習一些SQL技巧、新的函數,對你工作效率的提高是很有幫助的。
統計知識與數據挖掘 你要掌握基礎的、成熟的數據建模方法、數據挖掘方法。例如:多元統計:回歸分析、因子分析、離散等,數據挖掘中的:決策樹(shù)、聚類(lèi)、關(guān)聯(lián)規則、神經(jīng)網(wǎng)絡(luò )等。
但是還是應該關(guān)注一些博客、論壇中大家對于最新方法的介紹,或者是對老方法的新運用,不斷更新自己知識,才能跟上時(shí)代,也許你工作中根本不會(huì )用到,但是未來(lái)呢?行業(yè)知識 如果數據不結合具體的行業(yè)、業(yè)務(wù)知識,數據就是一堆數字,不代表任何東西。是冷冰冰,是不會(huì )產(chǎn)生任何價(jià)值的,數據驅動(dòng)營(yíng)銷(xiāo)、提高科學(xué)決策一切都是空的。
一名數據分析師,一定要對所在行業(yè)知識、業(yè)務(wù)知識有深入的了解。例如:看到某個(gè)數據,你首先必須要知道,這個(gè)數據的統計口徑是什么?是如何取出來(lái)的?這個(gè)數據在這個(gè)行業(yè), 在相應的業(yè)務(wù)是在哪個(gè)環(huán)節是產(chǎn)生的?數值的代表業(yè)務(wù)發(fā)生了什么(背景是什么)?對于A(yíng)部門(mén)來(lái)說(shuō),本月新會(huì )員有10萬(wàn),10萬(wàn)好還是不好呢?先問(wèn)問(wèn)上面的這個(gè)問(wèn)題:對于A(yíng)部門(mén),1、新會(huì )員的統計口徑是什么。
第一次在使用A部門(mén)的產(chǎn)品的會(huì )員?還是在站在公司角度上說(shuō),第一次在公司發(fā)展業(yè)務(wù)接觸的會(huì )員?2、是如何統計出來(lái)的。A:時(shí)間;是通過(guò)創(chuàng )建時(shí)間,還是業(yè)務(wù)完成時(shí)間。
B:業(yè)務(wù)場(chǎng)景。是只要與業(yè)務(wù)發(fā)接觸,例如下了單,還是要業(yè)務(wù)完成后,到成功支付。
3、這個(gè)數據是在哪個(gè)環(huán)節統計出來(lái)。在注冊環(huán)節,在下單環(huán)節,在成功支付環(huán)節。
4、這個(gè)數據代表著(zhù)什么。10萬(wàn)高嗎?與歷史相同比較?是否做了營(yíng)銷(xiāo)活動(dòng)?這個(gè)行業(yè)處理行業(yè)生命同期哪個(gè)階段?在前面二點(diǎn),更多要求你能按業(yè)務(wù)邏輯,來(lái)進(jìn)行數據的提取(更多是寫(xiě)SQL代碼從數據庫取出數據)。
后面二點(diǎn),更重要是對業(yè)務(wù)了解,更行業(yè)知識了解,你才能進(jìn)行相應的數據解讀,才能讓數據產(chǎn)生真正的價(jià)值,不是嗎?對于新進(jìn)入數據行業(yè)或者剛進(jìn)入數據行業(yè)的朋友來(lái)說(shuō):行業(yè)知識都重要,也許你看到很多的數據行業(yè)的同仁,在微博或者寫(xiě)文章說(shuō),數據分析思想、行業(yè)知識、業(yè)務(wù)知識很重要。我非常同意。
因為作為數據分析師,在發(fā)表任何觀(guān)點(diǎn)的時(shí)候,都不要忘記你居于的背景是什么?但大家一定不要忘記了一些基本的技術(shù),不要把基礎去忘記了,如果一名數據分析師不會(huì )寫(xiě)SQL,那麻煩就大了。哈哈。
你只有把數據先取對了,才能正確的分析,否則一切都是錯誤了,甚至會(huì )導致致命的結論。
新同學(xué),還是好好花時(shí)間把基礎技能學(xué)好。因為基礎技能你可以在短期內快速提高,但是在行業(yè)、業(yè)務(wù)知識的是一點(diǎn)一滴的積累起來(lái)的,有時(shí)候是急不來(lái)的,這更需要花時(shí)間慢慢去沉淀下來(lái)。
不要過(guò)于追求很高級、高深的統計方法,我提倡有空還是要多去學(xué)習基本的統計學(xué)知識,從而提高工作效率,達到事半功倍。以我經(jīng)驗來(lái)說(shuō),我負責任告訴新進(jìn)的同學(xué),永遠不要忘記基本知識、基本技能的學(xué)習。
二、要有三心。1、細心。
2、耐心。3、靜心。
數據分析師其實(shí)是一個(gè)細活,特別是在前文提到的例子中的前面二點(diǎn)。而且在數據分析過(guò)程中,是一個(gè)不斷循環(huán)迭代的過(guò)程,所以一定在耐心,不怕麻煩,能靜下心來(lái)不斷去修改自己的分析思路。
三、形成自己結構化的思維。數據分析師一定要嚴謹。
而嚴謹一定要很強的結構化思維,如何提高結構化思維,也許只需要工作隊中不斷的實(shí)踐。但是我推薦你用mindmanagement,首先把你的整個(gè)思路整理出來(lái),然后根據分析不斷深入、得到的信息不斷增加的情況下去完善你的結構,慢慢你會(huì )形成一套自己的思想。
當然有空的時(shí)候去看看《麥肯錫思維》、結構化邏輯思維訓練的書(shū)也不錯。在我以為多看看你身邊更資深同事的報告,多問(wèn)問(wèn)他們是怎么去考慮這個(gè)問(wèn)題的,別人的思想是怎么樣的?他是怎么構建整個(gè)分析體系的。
四、業(yè)務(wù)、行業(yè)、商業(yè)知識。當你掌握好前面的基本知識和一些技巧性東西的時(shí)候,你應該在業(yè)務(wù)、行業(yè)、商業(yè)知識的學(xué)習與積累上了。
這個(gè)放在最后,不是不重要,而且非常重要,如果前面三點(diǎn)是決定你能否進(jìn)入這個(gè)行業(yè),那么這則是你進(jìn)入這個(gè)行業(yè)后,能否成功的最根本的因素。 數據與具體行業(yè)知識的關(guān)系,比作池塘中魚(yú)與水的關(guān)系一點(diǎn)都不過(guò)分,數據(魚(yú))離開(kāi)了行業(yè)、業(yè)務(wù)背景(水)是死的,是不可能是“活”。
而沒(méi)有“魚(yú)”的水,更像是“死”水,你去根本不知道看什么(方向在哪)。如何提高業(yè)務(wù)知識,特別是沒(méi)有相關(guān)背景的同學(xué)。
很簡(jiǎn)單,我總結了幾點(diǎn):1、多向業(yè)務(wù)部門(mén)的同事請教,多溝通。多向他們請教,數據分析師與業(yè)務(wù)部門(mén)沒(méi)有利益沖突,而更向是共生體,所以如果你態(tài)度好,相信業(yè)務(wù)部門(mén)的同事也很愿意把他們知道的告訴你。
2、永遠不要忘記了google大神,定制一些行業(yè)的關(guān)鍵字,每天都先看看定制的郵件。3、每天有空去瀏。
1.墓于粗糙集( Rough Set)理論的約簡(jiǎn)方法
粗糙集理論是一種研究不精確、不確定性知識的數學(xué)工具。目前受到了KDD的廣泛重視,利用粗糙集理論對數據進(jìn)行處理是一種十分有效的精簡(jiǎn)數據維數的方法。我們所處理的數據一般存在信息的含糊性(Vagueness)問(wèn)題。含糊性有三種:術(shù)語(yǔ)的模糊性,如高矮;數據的不確定性,如噪聲引起的;知識自身的不確定性,如規則的前后件間的依賴(lài)關(guān)系并不是完全可靠的。在KDD中,對不確定數據和噪聲干擾的處理是粗糙集方法的
2.基于概念樹(shù)的數據濃縮方法
在數據庫中,許多屬性都是可以進(jìn)行數據歸類(lèi),各屬性值和概念依據抽象程度不同可以構成一個(gè)層次結構,概念的這種層次結構通常稱(chēng)為概念樹(shù)。概念樹(shù)一般由領(lǐng)域專(zhuān)家提供,它將各個(gè)層次的概念按一般到特殊的順序排列。
3.信息論思想和普化知識發(fā)現
特征知識和分類(lèi)知識是普化知識的兩種主要形式,其算法基本上可以分為兩類(lèi):數據立方方法和面向屬性歸納方法。
普通的基于面向屬性歸納方法在歸納屬性的選擇上有一定的盲目性,在歸納過(guò)程中,當供選擇的可歸納屬性有多個(gè)時(shí),通常是隨機選取一個(gè)進(jìn)行歸納。事實(shí)上,不同的屬性歸納次序獲得的結果知識可能是不同的,根據信息論最大墑的概念,應該選用一個(gè)信息丟失最小的歸納次序。
4.基于統計分析的屬性選取方法
我們可以采用統計分析中的一些算法來(lái)進(jìn)行特征屬性的選取,比如主成分分析、逐步回歸分析、公共因素模型分析等。這些方法的共同特征是,用少量的特征元組去描述高維的原始知識基。
5.遺傳算法〔GA, Genetic Algo}thrn})
遺傳算法是一種基于生物進(jìn)化論和分子遺傳學(xué)的全局隨機搜索算法。遺傳算法的基本思想是:將問(wèn)題的可能解按某種形式進(jìn)行編碼,形成染色體。隨機選取N個(gè)染色體構成初始種群。再根據預定的評價(jià)函數對每個(gè)染色體計算適應值。選擇適應值高的染色體進(jìn)行復制,通過(guò)遺傳運算(選擇、交叉、變異)來(lái)產(chǎn)生一群新的更適應環(huán)境的染色體,形成新的種群。這樣一代一代不斷繁殖進(jìn)化,最后收斂到一個(gè)最適合環(huán)境的個(gè)體上,從而求得問(wèn)題的最優(yōu)解。遺傳算法應用的關(guān)鍵是適應度函數的建立和染色體的描述。在實(shí)際應用中,通常將它和神經(jīng)網(wǎng)絡(luò )方法綜合使用。通過(guò)遺傳算法來(lái)搜尋出更重要的變量組合。
去百度文庫,查看完整內容>內容來(lái)自用戶(hù):林桂玲第六節數據處理的基本方法前面我們已經(jīng)討論了測量與誤差的基本概念,測量結果的最佳值、誤差和不確定度的計算。
然而,我們進(jìn)行實(shí)驗的最終目的是為了通過(guò)數據的獲得和處理,從中揭示出有關(guān)物理量的關(guān)系,或找出事物的內在規律性,或驗證某種理論的正確性,或為以后的實(shí)驗準備依據。因而,需要對所獲得的數據進(jìn)行正確的處理,數據處理貫穿于從獲得原始數據到得出結論的整個(gè)實(shí)驗過(guò)程。
包括數據記錄、整理、計算、作圖、分析等方面涉及數據運算的處理方法。常用的數據處理方法有:列表法、圖示法、圖解法、逐差法和最小二乘線(xiàn)性擬合法等,下面分別予以簡(jiǎn)單討論。
一、列表法?列表法是將實(shí)驗所獲得的數據用表格的形式進(jìn)行排列的數據處理方法。列表法的作用有兩種:一是記錄實(shí)驗數據,二是能顯示出物理量間的對應關(guān)系。
其優(yōu)點(diǎn)是,能對大量的雜亂無(wú)章的數據進(jìn)行歸納整理,使之既有條不紊,又簡(jiǎn)明醒目;既有助于表現物理量之間的關(guān)系,又便于及時(shí)地檢查和發(fā)現實(shí)驗數據是否合理,減少或避免測量錯誤;同時(shí),也為作圖法等處理數據奠定了基礎。用列表的方法記錄和處理數據是一種良好的科學(xué)工作習慣,要設計出一個(gè)欄目清楚、行列分明的表格,也需要在實(shí)驗中不斷訓練,逐步掌握、熟練,并形成習慣。
4.連線(xiàn)。要繪制一條與標出的實(shí)驗點(diǎn)基本相符的圖線(xiàn),圖線(xiàn)盡可能多的通過(guò)實(shí)驗點(diǎn),由于測量誤差,某些實(shí)驗點(diǎn)可能不在圖線(xiàn)上,應盡量使其均勻地分布在圖線(xiàn)的兩側。
圖線(xiàn)應是直線(xiàn)或光滑的曲線(xiàn)或折。
聲明:本網(wǎng)站尊重并保護知識產(chǎn)權,根據《信息網(wǎng)絡(luò )傳播權保護條例》,如果我們轉載的作品侵犯了您的權利,請在一個(gè)月內通知我們,我們會(huì )及時(shí)刪除。
蜀ICP備2020033479號-4 Copyright ? 2016 學(xué)習?shū)B(niǎo). 頁(yè)面生成時(shí)間:3.730秒