免费注册 查看新帖 |

Chinaunix

  平台 论坛 博客 文库
最近访问板块 发新帖
查看: 19562 | 回复: 61
打印 上一主题 下一主题

[算法] 有什么算法可以很快地取到交集。 [复制链接]

论坛徽章:
89
水瓶座
日期:2014-04-01 08:53:31天蝎座
日期:2014-04-01 08:53:53天秤座
日期:2014-04-01 08:54:02射手座
日期:2014-04-01 08:54:15子鼠
日期:2014-04-01 08:55:35辰龙
日期:2014-04-01 08:56:36未羊
日期:2014-04-01 08:56:27戌狗
日期:2014-04-01 08:56:13亥猪
日期:2014-04-01 08:56:02亥猪
日期:2014-04-08 08:38:58程序设计版块每日发帖之星
日期:2016-01-05 06:20:00程序设计版块每日发帖之星
日期:2016-01-07 06:20:00
跳转到指定楼层
1 [收藏(0)] [报告]
发表于 2013-04-01 08:02 |只看该作者 |倒序浏览
本帖最后由 fender0107401 于 2013-04-01 08:25 编辑

  1. a = {1, 2, 3, 4, 5, 6, 7};
  2. b = {2, 3, 5};
复制代码
如何知道a和b的交集?

数据量可能比较大,所以需要一个快一点的算法。

原始问题在这里:http://bbs.chinaunix.net/thread-4074355-1-1.html

论坛徽章:
89
水瓶座
日期:2014-04-01 08:53:31天蝎座
日期:2014-04-01 08:53:53天秤座
日期:2014-04-01 08:54:02射手座
日期:2014-04-01 08:54:15子鼠
日期:2014-04-01 08:55:35辰龙
日期:2014-04-01 08:56:36未羊
日期:2014-04-01 08:56:27戌狗
日期:2014-04-01 08:56:13亥猪
日期:2014-04-01 08:56:02亥猪
日期:2014-04-08 08:38:58程序设计版块每日发帖之星
日期:2016-01-05 06:20:00程序设计版块每日发帖之星
日期:2016-01-07 06:20:00
2 [报告]
发表于 2013-04-01 08:50 |只看该作者
如果总共有M个数组的长度分别是:N_1 N_2 .... N_max。

那我使用quick sort先排序的话,那么每次的排序算法的计算复杂性是O(nlog(n)),所有排序的复杂性加起来是M*O(N_max*log(N_max))。

然后把所有数组连成一个,再次排序那么复杂性是:(M*N_max)*log(M*N_max),

然后我要对整个数组进行遍历,找出连续重复出现次数等于M的元素,这个复杂性是M*N_max。

所以整个的复杂性是M*N_max + (M*N_max)*log(M*N_max) + M*O(N_max*log(N_max)) = M*(N_max + N_max*log(M*N_max) + O(N_max*log(N_max)))。

这样应该是最快了吧?

论坛徽章:
89
水瓶座
日期:2014-04-01 08:53:31天蝎座
日期:2014-04-01 08:53:53天秤座
日期:2014-04-01 08:54:02射手座
日期:2014-04-01 08:54:15子鼠
日期:2014-04-01 08:55:35辰龙
日期:2014-04-01 08:56:36未羊
日期:2014-04-01 08:56:27戌狗
日期:2014-04-01 08:56:13亥猪
日期:2014-04-01 08:56:02亥猪
日期:2014-04-08 08:38:58程序设计版块每日发帖之星
日期:2016-01-05 06:20:00程序设计版块每日发帖之星
日期:2016-01-07 06:20:00
3 [报告]
发表于 2013-04-01 08:50 |只看该作者
:wink:

论坛徽章:
324
射手座
日期:2013-08-23 12:04:38射手座
日期:2013-08-23 16:18:12未羊
日期:2013-08-30 14:33:15水瓶座
日期:2013-09-02 16:44:31摩羯座
日期:2013-09-25 09:33:52双子座
日期:2013-09-26 12:21:10金牛座
日期:2013-10-14 09:08:49申猴
日期:2013-10-16 13:09:43子鼠
日期:2013-10-17 23:23:19射手座
日期:2013-10-18 13:00:27金牛座
日期:2013-10-18 15:47:57午马
日期:2013-10-18 21:43:38
4 [报告]
发表于 2013-04-01 08:58 |只看该作者
合并应该可以省去

论坛徽章:
36
子鼠
日期:2013-08-28 22:23:29黄金圣斗士
日期:2015-12-01 11:37:51程序设计版块每日发帖之星
日期:2015-12-14 06:20:00CU十四周年纪念徽章
日期:2015-12-22 16:50:40IT运维版块每日发帖之星
日期:2016-01-25 06:20:0015-16赛季CBA联赛之深圳
日期:2016-01-27 10:31:172016猴年福章徽章
日期:2016-02-18 15:30:3415-16赛季CBA联赛之福建
日期:2016-04-07 11:25:2215-16赛季CBA联赛之青岛
日期:2016-04-29 18:02:5915-16赛季CBA联赛之北控
日期:2016-06-20 17:38:50技术图书徽章
日期:2016-07-19 13:54:03程序设计版块每日发帖之星
日期:2016-08-21 06:20:00
5 [报告]
发表于 2013-04-01 09:26 |只看该作者
比如都是int数组
计数:
分配个大数组清零,每个int数组元素作为大数组下标对大数组元素做++,各个数组都弄完之后,遍历一次大数组看哪些元素值和数组个数相等,取其下标为交集

如果是字符串之类的并且字符串数量不是特别大,弄个字符串和int的映射表,一样可以用上面的方法
数量巨大弄映射伤不起的话,楼主描述下数据特点吧,然后再想牛逼的算法吧。。。

论坛徽章:
89
水瓶座
日期:2014-04-01 08:53:31天蝎座
日期:2014-04-01 08:53:53天秤座
日期:2014-04-01 08:54:02射手座
日期:2014-04-01 08:54:15子鼠
日期:2014-04-01 08:55:35辰龙
日期:2014-04-01 08:56:36未羊
日期:2014-04-01 08:56:27戌狗
日期:2014-04-01 08:56:13亥猪
日期:2014-04-01 08:56:02亥猪
日期:2014-04-08 08:38:58程序设计版块每日发帖之星
日期:2016-01-05 06:20:00程序设计版块每日发帖之星
日期:2016-01-07 06:20:00
6 [报告]
发表于 2013-04-01 09:56 |只看该作者
hellioncu 发表于 2013-04-01 08:58
合并应该可以省去


论坛徽章:
89
水瓶座
日期:2014-04-01 08:53:31天蝎座
日期:2014-04-01 08:53:53天秤座
日期:2014-04-01 08:54:02射手座
日期:2014-04-01 08:54:15子鼠
日期:2014-04-01 08:55:35辰龙
日期:2014-04-01 08:56:36未羊
日期:2014-04-01 08:56:27戌狗
日期:2014-04-01 08:56:13亥猪
日期:2014-04-01 08:56:02亥猪
日期:2014-04-08 08:38:58程序设计版块每日发帖之星
日期:2016-01-05 06:20:00程序设计版块每日发帖之星
日期:2016-01-07 06:20:00
7 [报告]
发表于 2013-04-01 10:03 |只看该作者
cokeboL 发表于 2013-04-01 09:26
比如都是int数组
计数:
分配个大数组清零,每个int数组元素作为大数组下标对大数组元素做++,各个数组都 ...


全都是int的整数。

但是数字范围可能很大,都是数据库里面的主键。

我也想过弄个大点的数组,然后往里面填数据,但是实际中集合里面的整数可能“千”或者“万”为单位的,声明一个大的数组可能需要消耗很多没必要的存储空间。

除非是先映射一下,但是这样似乎比较麻烦。

论坛徽章:
36
子鼠
日期:2013-08-28 22:23:29黄金圣斗士
日期:2015-12-01 11:37:51程序设计版块每日发帖之星
日期:2015-12-14 06:20:00CU十四周年纪念徽章
日期:2015-12-22 16:50:40IT运维版块每日发帖之星
日期:2016-01-25 06:20:0015-16赛季CBA联赛之深圳
日期:2016-01-27 10:31:172016猴年福章徽章
日期:2016-02-18 15:30:3415-16赛季CBA联赛之福建
日期:2016-04-07 11:25:2215-16赛季CBA联赛之青岛
日期:2016-04-29 18:02:5915-16赛季CBA联赛之北控
日期:2016-06-20 17:38:50技术图书徽章
日期:2016-07-19 13:54:03程序设计版块每日发帖之星
日期:2016-08-21 06:20:00
8 [报告]
发表于 2013-04-01 10:37 |只看该作者
本帖最后由 cokeboL 于 2013-04-01 10:39 编辑

如果遍历的话,各数组长度分别是 N_MIN, N_1, N_2 。。。 N_MAX

1.先N_MIN和N_1中找,N_MIN中每个元素和N_1中比较看是否有相等的,复杂度为O(N_MIN * N_1)
2.结果再和N_2比较,1中交集个数<= N_MIN,这里复杂度为O(N_MIN * N_2)
。。。
总复杂度为O(N_MIN * (N_1 + N_2 + ... N_MAX))也很大

我去搜搜

论坛徽章:
1
技术图书徽章
日期:2014-03-06 15:32:30
9 [报告]
发表于 2013-04-01 10:45 |只看该作者
回复 2# fender0107401


    c++的话用map;  c的话用红黑树做关联数组,标签id做key, value就是标签次数。
往map里或者红黑树里扔一遍,key存在就把value+1。
时间复杂度=sum(N_1....N_max) * log(sum(N_1...N_max);
空间复杂度=标签数。
遍历一遍关联数组,遇到value是M的就取出来。

论坛徽章:
8
CU大牛徽章
日期:2013-04-17 10:59:39CU大牛徽章
日期:2013-04-17 11:01:45CU大牛徽章
日期:2013-04-17 11:02:15CU大牛徽章
日期:2013-04-17 11:02:36CU大牛徽章
日期:2013-04-17 11:02:58技术图书徽章
日期:2013-12-04 10:48:50酉鸡
日期:2014-01-03 10:32:30辰龙
日期:2014-03-06 15:04:07
10 [报告]
发表于 2013-04-01 10:46 |只看该作者
先分别排序,设需要求交集的集合共M个,则这样做的复杂度是M*O(N logN);这比先合并后排序的O(M*N log(M*N))要好一些。


分别排序完成后,再以定制的、类归并排序算法处理M个集合的交集。方法是:
0、假设按升序排序
1、从任意集合A开始,找到其他集合中不大于A首元素的元素(前面的全部丢弃)
2、检查所有这些元素是否相同
2.1、都相同,则把这个元素放入交集
2.1.2、从集合A的下一个元素开始,跳到1继续执行
2.2、不相同,以这些元素中最大的一个为准,以该元素所在集合为A,跳到1继续执行


上面这个算法的复杂度大概是O(M*N)。

最终,总体复杂度大约是O(M*N)+M*O(N logN),即: O(M*N logN)
您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

  

北京盛拓优讯信息技术有限公司. 版权所有 京ICP备16024965号-6 北京市公安局海淀分局网监中心备案编号:11010802020122 niuxiaotong@pcpop.com 17352615567
未成年举报专区
中国互联网协会会员  联系我们:huangweiwei@itpub.net
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP