我正在尝试将sqlite用作我的应用程序中的缓存。我这么说是因为我的缓存中的项目永远不会过期,而且我也不存储任何东西。我只需要使用缓存来存储我之前处理过的所有id。我不想重复处理任何内容。
我以每秒10,000条消息的速度将项目输入到缓存中,总共有1.5亿条消息。我的表非常简单。它只有一个文本列,用于存储id。我以前一直在使用字典进行内存操作,但是,我正在处理数百万条消息,虽然这种方式很快,但是一段时间后,我耗尽了内存。
我已经研究了sqlite和性能,并且我了解配置很关键,但是,我在插入方面仍然表现很差(我还没有尝试选择)。我甚至无法跟上每秒5000个插入的速度。也许这就是它的极限。
我的连接字符串如下:
感谢您能提供的任何帮助!
我以每秒10,000条消息的速度将项目输入到缓存中,总共有1.5亿条消息。我的表非常简单。它只有一个文本列,用于存储id。我以前一直在使用字典进行内存操作,但是,我正在处理数百万条消息,虽然这种方式很快,但是一段时间后,我耗尽了内存。
我已经研究了sqlite和性能,并且我了解配置很关键,但是,我在插入方面仍然表现很差(我还没有尝试选择)。我甚至无法跟上每秒5000个插入的速度。也许这就是它的极限。
我的连接字符串如下:
Data Source=filename;Version=3;Count Changes=off;Journal Mode=off;
Pooling=true;Cache Size=10000;Page Size=4096;Synchronous=off
感谢您能提供的任何帮助!