python中對list去重的多種方法

字號:


    今天遇到一個問題,在同事隨意的提示下,用了 itertools.groupby 這個函數(shù)。不過這個東西最終還是沒用上。
    問題就是對一個list中的新聞id進行去重,去重之后要保證順序不變。
    直觀方法
    最簡單的思路就是:
    代碼如下:
    ids = [1,2,3,3,4,2,3,4,5,6,1]
    news_ids = []
    for id in ids:
    if id not in news_ids:
    news_ids.append(id)
    print news_ids
    這樣也可行,但是看起來不夠爽。
    用set
    另外一個解決方案就是用set:
    代碼如下:
    ids = [1,4,3,3,4,2,3,4,5,6,1]
    ids = list(set(ids))
    這樣的結果是沒有保持原來的順序。
    按照索引再次排序
    最后通過這種方式解決:
    代碼如下:
    ids = [1,4,3,3,4,2,3,4,5,6,1]
    news_ids = list(set(ids))
    news_ids.sort(ids.index)
    使用itertools.grouby
    文章一開始就提到itertools.grouby, 如果不考慮列表順序的話可用這個:
    代碼如下:
    ids = [1,4,3,3,4,2,3,4,5,6,1]
    ids.sort()
    it = itertools.groupby(ids)
    for k, g in it:
    print k
    關于itertools.groupby的原理可以看這里:
    網(wǎng)友補充:用reduce
    網(wǎng)友reatlk留言給了另外的解決方案。我補充并解釋到這里:
    代碼如下:
    In [5]: ids = [1,4,3,3,4,2,3,4,5,6,1]
    In [6]: func = lambda x,y:x if y in x else x + [y]
    In [7]: reduce(func, [[], ] + ids)
    Out[7]: [1, 4, 3, 2, 5, 6]
    上面是我在ipython中運行的代碼,其中的 lambda x,y:x if y in x else x + [y] 等價于 lambda x,y: y in x and x or x+[y] 。