duplicated(如何在python中使用duplicated和drop_duplicates)

data={'state':[1,1,2,2,1,2,2,2],'pop':['a','b','c','d','b','c','d','d']}frame=pd.DataFrame(data)frame

frame.shape$(8,2)

#說明duplicated()是對整行進行查重,return重復了的數據,且只現實n-1條重復的數據(n是重復的次數)frame[frame.duplicated()==True]

一開始還很疑惑,明明(1,b)只出現了1次,哪里duplicate了。其實,人家return的結果是去掉已經出現過一次的行數據了。所以看起來有點confuse,感覺(1,b)并沒有重復,但其實人家的函數很簡潔呢,返回了重復值而且不冗余。

#說明drop_duplicates()函數是將所有重復的數據都去掉了,且默認保留重復數據的第一條。#比如(2,d)出現了3次,在duplicated()中顯示了2次,在drop_dupicates()后保留了一個frame.drop_duplicates().shape$(4,2)

#留下了完全唯一的數據行frame.drop_duplicates()

補充:python的pandas重復值處理(duplicated()和drop_duplicates())

一、生成重復記錄數據

importnumpyasnpimportpandasaspd#生成重復數據df=pd.DataFrame(np.ones([5,2]),columns=['col1','col2'])df['col3']=['a','b','a','c','d']df['col4']=[3,2,3,2,2]df=df.reindex(columns=['col3','col4','col1','col2'])#將新增的一列排在第一列df

輸出:

二、判斷重復記錄(行)

#判斷重復數據isDplicated=df.duplicated()#判斷重復數據記錄isDplicated

輸出:

三、刪除重復值

#刪除重復值new_df1=df.drop_duplicates()#刪除數據記錄中所有列值相同的記錄new_df2=df.drop_duplicates(['col3'])#刪除數據記錄中col3列值相同的記錄new_df3=df.drop_duplicates(['col4'])#刪除數據記錄中col4列值相同的記錄new_df4=df.drop_duplicates(['col3','col4'])#刪除數據記錄中(col3和col4)列值相同的記錄new_df1new_df2new_df3new_df4

輸出:

python主要應用領域有哪些

1、云計算,典型應用OpenStack。2、WEB前端開發,眾多大型網站均為Python開發。3.人工智能應用,基于大數據分析和深度學習而發展出來的人工智能本質上已經無法離開python。4、系統運維工程項目,自動化運維的標配就是python+Django/flask。5、金融理財分析,量化交易,金融分析。6、大數據分析。

關于如何在python中使用duplicated和drop_duplicates()就分享到這里了,希望以上內容可以對大家有一定的幫助,可以學到更多知識。如果覺得文章不錯,可以把它分享出去讓更多的人看到。