笔记本电脑上安装Hadoop的硬件要求

5

我计划在Hadoop、MapReduce和其他大数据技术方面获得一些经验。最初,我想在笔记本电脑上安装它。我想知道在Windows上安装Hadoop的最佳笔记本电脑硬件推荐是什么。我假设我需要安装单节点安装,如果不是,请指导我正确的配置。 敬礼, Nadeem


1
请查看http://wiki.apache.org/hadoop/Hadoop2OnWindows以获取Windows安装(无需cygwin)。该网站并没有列出系统要求的清单,但是当您按照网站上指定的方式下载hadoop时,下载包中会有一个README(BUILDING.txt),其中包含了系统要求。 - Paul Samsotha
4个回答

6

我知道你提到想在Windows上安装,但是Cloudera提供了单节点Hadoop Linux虚拟机镜像,可以让你在短时间内启动并运行。甚至还包括示例和脚本,这是一个非常好的起点。

https://www.cloudera.com/downloads.html

(不要忘记查看入门部分。)

我认为,如果您想学习大数据和Hadoop,您也应该花些时间熟悉Linux,因为大多数真实环境都是基于Linux的。

系统要求:根据Cloudera页面,VM需要4GB RAM和3GB的磁盘空间。这意味着你的笔记本电脑应该比这更多(我建议8GB+)。就存储而言,只要你有足够的测试小型和中型数据集(10 GB左右),你就没问题了。至于CPU,如果你的机器有那么多RAM,你很可能没问题。我使用一台单节点低档Pentium G3210,带有4GB RAM来测试我的小作业,它工作得非常好。

稍后,如果您的需求超出了这个环境,您可以简单地转移到自己的伪分布式设置。

当然,如果我刚才说的对您毫无意义,那么您还有一些阅读任务要完成...


1
链接已失效 - 当前版本为5-4(因此旧的URL不起作用)。如果有人感兴趣,请访问https://www.cloudera.com/content/www/en-us/downloads.html,然后选择当前版本。 - tlegutko
如果我想为培训目的建立一个集群 - 比如一次30人,只是为了让他们感受一下系统(主要是Hive) - 我应该寻找什么样的硬件来设置NameNode和DataNode?我理想情况下应该瞄准多少个数据节点?我不打算处理大量数据。这只是为了体验和培训。 - Indrajit

2
如果你想练习简单的程序(不涉及大量数据),那么4GB内存应该就足够了。 如果你想要安装一个单节点,最好的配置是至少4个核心、32GB内存。 关于如何安装单节点的更多信息,请参考myhobbyandexperiments.wordpress.com网站。

1

你可能还没有准备好使用仅限Linux的笔记本电脑。因此,您需要支持64位虚拟化的64位CPU - 当然还需要64位操作系统。请注意,虚拟化支持通常在BIOS级别上被禁用,您需要找到并启用它。

除此之外,需要充足的RAM - 至少8GB,尽管16GB更好。我还喜欢为不同的操作系统使用不同的硬盘,所以可以用一个HD托架替换DVD,并使用第二个SSC硬盘(例如128GB)的笔记本电脑会很好。


-4

拥有4 GB内存的64位Windows操作系统应该表现不错。 我发布了一篇博客。在这篇博客中,我记录了详细的步骤和支持截图,以在您的64位Windows PC或笔记本电脑上使用Pseudo Distributed Mode安装和设置Hadoop集群。

这是一个3步过程

第1步-安装VM Player

第2步-设置Lubuntu虚拟机

第3步-安装Hadoop

http://hadooppseudomode.blogspot.in/


这个问题是关于硬件要求的,而不是安装说明。 - sth

网页内容由stack overflow 提供, 点击上面的
可以查看英文原文,
原文链接