免费注册 查看新帖 |

Chinaunix

  平台 论坛 博客 文库
12下一页
最近访问板块 发新帖
查看: 2667 | 回复: 12
打印 上一主题 下一主题

[内存管理] 讨论关于内核伸缩性的问题 [复制链接]

论坛徽章:
0
跳转到指定楼层
1 [收藏(0)] [报告]
发表于 2014-03-29 03:37 |只看该作者 |倒序浏览
本帖最后由 l4rmbr 于 2014-03-31 17:12 编辑

随着NUMA架构的发展,越来越大的SMP系统成为现实。
很多内核中深埋的伸缩性问题开始显露,内核开发者也越来越注重对于
伸缩性问题的考虑。

所谓伸缩性(scalability),是指内核的性能随着CPU核心/内存数目等资源的增大而出现回退的现象。
假设资源数目是N,  很多暴露出来的伸缩性问题都是O(N)乃至O(N^2)复杂度的。
当然最理想是O(1)复杂度,即随着N增大,性能保持在一个数量级的变化之内。

引起变化的原因有两方面,一是空间,一是时间。

空间方面,比如增多的内存大小,使某些数据结构消耗也随着增大,进而占据
了固定的宝贵的低端内存(对32位来说),从而使低端内存数量减少,而引起其它重要
内核结构分配减缓甚至失败,进而影响性能。比如描述页框的struct page就是这种情况。

时间方面,比如增多的CPU核心加剧了对全局有限资源的竞争,如锁,从而造成性能的回退。
今天看到的关于对hugetlb页,使用独立的页表锁就是这种情况。http://lwn.net/Articles/568076/

因此想开个贴,把遇到的所有跟伸缩性(scalability)相关的问题/patch/文章等放进来,供大家
讨论和参考。我之后想起来会慢慢补充。大家也可以踊跃讨论哈

=====
文章
hugetlb页使用独立的页表锁,以解决锁竞争
关于内存屏障,rcu, 无锁的伸缩性问题

论坛徽章:
17
水瓶座
日期:2013-08-29 12:09:27白羊座
日期:2014-08-07 12:36:42丑牛
日期:2014-07-24 12:44:41寅虎
日期:2014-04-16 16:15:33寅虎
日期:2014-03-12 09:28:43摩羯座
日期:2014-03-06 13:22:04技术图书徽章
日期:2014-03-06 11:34:50天蝎座
日期:2014-01-09 11:31:44寅虎
日期:2013-12-27 17:01:44双子座
日期:2013-12-27 12:32:29双子座
日期:2013-12-25 09:03:33丑牛
日期:2013-12-24 16:18:44
2 [报告]
发表于 2014-03-29 21:59 |只看该作者
回复 1# l4rmbr

Scalability techniques
http://lwn.net/Articles/572099/


   

论坛徽章:
15
射手座
日期:2014-02-26 13:45:082015年迎新春徽章
日期:2015-03-04 09:54:452015年辞旧岁徽章
日期:2015-03-03 16:54:15羊年新春福章
日期:2015-02-26 08:47:552015年亚洲杯之卡塔尔
日期:2015-02-03 08:33:45射手座
日期:2014-12-31 08:36:51水瓶座
日期:2014-06-04 08:33:52天蝎座
日期:2014-05-14 14:30:41天秤座
日期:2014-04-21 08:37:08处女座
日期:2014-04-18 16:57:05戌狗
日期:2014-04-04 12:21:33技术图书徽章
日期:2014-03-25 09:00:29
3 [报告]
发表于 2014-03-30 22:37 |只看该作者
NUMA下,远程节点访问导致性能下降的问题在很多情况下都会有较大的影响~~,这是个big trouble。

论坛徽章:
0
4 [报告]
发表于 2014-03-31 17:12 |只看该作者
回复 2# asuka2001


    asuka2001,

谢谢,已加。

论坛徽章:
0
5 [报告]
发表于 2014-03-31 17:14 |只看该作者
回复 3# humjb_1983

这是个大问题。

开发者们有个numa-sched的patch系列在研究改进这个问题。不过貌似未进入主线。


   

论坛徽章:
16
2015亚冠之吉达阿赫利
日期:2015-08-17 11:21:462015年迎新春徽章
日期:2015-03-04 09:58:11酉鸡
日期:2014-12-07 09:06:19水瓶座
日期:2014-11-04 14:23:29天秤座
日期:2014-03-02 08:57:52双鱼座
日期:2014-02-22 13:07:56午马
日期:2014-02-14 11:08:18双鱼座
日期:2014-02-13 11:09:37卯兔
日期:2014-02-06 15:10:34子鼠
日期:2014-01-20 14:48:19戌狗
日期:2013-12-19 09:37:46射手座
日期:2013-12-19 09:33:47
6 [报告]
发表于 2014-03-31 17:16 |只看该作者
回复 5# l4rmbr


automatic numa balancing已经进入主线。


   

论坛徽章:
0
7 [报告]
发表于 2014-03-31 17:22 |只看该作者
回复 6# embeddedlwp


谢谢纠正!

是在哪个版本的时候加入的呢?

   

论坛徽章:
16
2015亚冠之吉达阿赫利
日期:2015-08-17 11:21:462015年迎新春徽章
日期:2015-03-04 09:58:11酉鸡
日期:2014-12-07 09:06:19水瓶座
日期:2014-11-04 14:23:29天秤座
日期:2014-03-02 08:57:52双鱼座
日期:2014-02-22 13:07:56午马
日期:2014-02-14 11:08:18双鱼座
日期:2014-02-13 11:09:37卯兔
日期:2014-02-06 15:10:34子鼠
日期:2014-01-20 14:48:19戌狗
日期:2013-12-19 09:37:46射手座
日期:2013-12-19 09:33:47
8 [报告]
发表于 2014-03-31 17:24 |只看该作者
本帖最后由 embeddedlwp 于 2014-03-31 17:26 编辑

回复 7# l4rmbr


这个得自己查了,呵呵

Mel Gorman先做了个infrastucture, 然后又增强了与sched相关的部分。
   

论坛徽章:
0
9 [报告]
发表于 2014-03-31 17:55 |只看该作者
回复 8# embeddedlwp

恩。我查了下,在v3.7时整个infrastructure进入。去年底看到的nuam/shed系列应该是在此上对sched的增强。

P.S.  顺便搜到前阵子你提交的跟这个相关的几个patch


   

论坛徽章:
16
2015亚冠之吉达阿赫利
日期:2015-08-17 11:21:462015年迎新春徽章
日期:2015-03-04 09:58:11酉鸡
日期:2014-12-07 09:06:19水瓶座
日期:2014-11-04 14:23:29天秤座
日期:2014-03-02 08:57:52双鱼座
日期:2014-02-22 13:07:56午马
日期:2014-02-14 11:08:18双鱼座
日期:2014-02-13 11:09:37卯兔
日期:2014-02-06 15:10:34子鼠
日期:2014-01-20 14:48:19戌狗
日期:2013-12-19 09:37:46射手座
日期:2013-12-19 09:33:47
10 [报告]
发表于 2014-03-31 18:02 |只看该作者
回复 9# l4rmbr

呵呵,没啥意思的patch

   
您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

  

北京盛拓优讯信息技术有限公司. 版权所有 京ICP备16024965号-6 北京市公安局海淀分局网监中心备案编号:11010802020122 niuxiaotong@pcpop.com 17352615567
未成年举报专区
中国互联网协会会员  联系我们:huangweiwei@itpub.net
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP