用C语言读取大文件的问题--内存映射
4716 点击·0 回帖
![]() | ![]() | |
![]() | Windows对文件的读写提供了很丰富的操作手段,如: 1. FILE *fp, fstearm...; (C/C++) 2. CFile, CStdioFile...; (MFC) 3. CreateFile, ReadFile...;(API) ... 在处理一般的文件(文本/非文本),这些足够了。然而在处理比较大的文件如 几十M, 几百M, 甚至上G的文件, 这时再用一般手段处理,系统就显的力不从心了 要把文件读出,再写进,耗费的是cpu利用率与内存以及IO的频繁操作。这显然是 令用户难以忍受的 为了解决这个吃内存,占CPU,以及IO瓶颈,windows核心编程提供了内存映射文件技术 (Maping File) 至于Maping File是什么原理,我不多说了,网上转载资源一箩筐,我只想从应用层 来考虑,怎样用这个技术,实现日常项目中的应用 举例来说: 可能项目中,会经常用到一些大量的常量,而这些大量常量用宏来替代写再源文件中 显然不可取,一般是写在文件中,给常量一些编号,通过编号来索引 一般文件比较小时候,常用做法也是先预读到内存中,毕竟从内存中读比从文件中读要快(IO操作的瓶颈) 比较好的做法,读到STL MAP 中去: 例如一个索引文件: SEU07201213=一颗欲枯的草 FANG=方 SEU07201214=CSDN ............ 打开文件,解析=号,在解析方面有CString操作,strtok,strstr, boost 正则表达式匹配等等,但我比较喜欢 [pre]
之类, 然后再定义一个map: map<string, string> m_Map; m_Map[sName] = sValue; 但是文件比较大的时候,笔者做过测试,用上面方法处理一个15M, 25万行的文本文件,占用内存非常 的高,达70多M,处理的速度也非常的慢,这还不包括回写到文件 这时,Maping File就派上用场了,这里处理大文件就抛弃了map的应用(因为容器占用很多内存) 而是直接利用字符指针来操作,不用其他封装,不多说了,请看示例: [pre]
| |
![]() | ![]() |