[自行打包] 个人收集精品杂图3 [2500p+9.1g][百度盘]

西域烤鱼干

tinbg 发表于 2024-7-12 19:13
" V  {* u$ G  z& v0 o- _/ u大哥，你这个头像很爱啊，像ai又想vam，有没有出处

抖音上有很多

uuuuyyyyy

为啥我一直密码错误ヽ(`Д´)ﾉ

不如离弃

好看

cndeng

感谢分享，大佬辛苦了。

lattess

有一部分图重复了，写了一段代码来解决这个问题，有一张图片似乎有问题，困扰了我好久为什么一直报错，求哈希值函数加个异常解决了，大家可以留着以后备用lol
: U; q$ s% d. j5 Zimport os
* S" a$ m1 [5 L! w* X8 mimport imagehash
7 o" _; H! i* d& k; l- [$ Wfrom PIL import Image
8 c; ?/ [& a* C% c# }7 V- L9 n: ^
; I; l9 ~. W7 X1 n7 ]  }( ^def compute_image_hash(image_path):
, m! j. F4 i9 P    # image = Image.open(image_path)
    # return imagehash.average_hash(image)
  J, ^7 ~) l( |% c( i8 X) |2 e+ G8 |    try:
        with Image.open(image_path) as image:
            return imagehash.average_hash(image)
    except (OSError, IOError) as e:
        print(f"处理图像 {image_path} 时出错: {e}")
        return None
  \4 X# ?8 F) {: U. H
def remove_duplicates(image_folder):
& |: Q  J& i. X. b5 s0 z    hash_dict = {}
    duplicates = []

% H8 M3 D5 F% C    for filename in os.listdir(image_folder):
        if filename.endswith(('.png', '.jpg', '.jpeg', '.bmp', '.gif')):
7 _* @1 L% h: X, U4 K; v- c; W            image_path = image_folder + "\\" + filename
. }' a' b( J) c2 E: X6 B. B            image_hash = compute_image_hash(image_path)

* O2 u1 K' t2 @5 }            if image_hash in hash_dict:
                duplicates.append(image_path)
) Y, Z/ C7 w3 l5 T$ R            else:
                hash_dict[image_hash] = image_path
2 j7 _: ~: S$ L: i2 n, G        else:
# [  u* }7 h) E. U8 F            pass

    for duplicate in duplicates:
3 S; X, C5 Y7 o2 Z3 T        os.remove(duplicate)
        print(f"Removed duplicate image: {duplicate}")
5 U$ w8 _# ]8 J. a: Y
( n9 F3 o  t+ g; s    print("Duplicate removal complete.")
0 d" N/ S. d( F0 W
image_folder = 'D:/data/baidu/去重训练文件夹' #换成自己的文件夹
% U9 R. z0 v" M" O5 g, A/ tremove_duplicates(image_folder)

lattess

lattess 发表于 2024-7-23 16:25
4 `# o6 X# G( l有一部分图重复了，写了一段代码来解决这个问题，有一张图片似乎有问题，困扰了我好久为什么一直报错，求哈 ...

0 |; H5 W9 ?+ ^  B有问题的图片名为1558571_114.png

一言九鼎

tinbg 发表于 2024-7-12 19:13
大哥，你这个头像很爱啊，像ai又想vam，有没有出处

* t$ B8 z, y1 {8 C' y一眼ai
2 X0 j3 H& }2 l  P2 |4 R" J5 G: a