博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
来几道大数据的面试题吧
阅读量:5940 次
发布时间:2019-06-19

本文共 647 字,大约阅读时间需要 2 分钟。

 

这个思路还是正确的:

首先处理大数据的面试题,有些基本概念要清楚:

(1)1Gb = 109bytes(1Gb = 10亿字节):1Gb = 1024Mb,1Mb = 1024Kb,1Kb = 1024bytes;

(2)基本流程是,分解大问题,解决小问题,从局部最优中选择全局最优;(当然,如果直接放内存里就能解决的话,那就直接想办法求解,不需要分解了。)

(3)分解过程常用方法:hash(x)%m。其中x为字符串/url/ip,m为小问题的数目,比如把一个大文件分解为1000份,m=1000;

(4)解决问题辅助数据结构:hash_map,Trie树,bit map,二叉排序树(AVL,SBT,红黑树);

(5)top K问题:最大K个用最小堆,最小K个用最大堆。(至于为什么?自己在纸上写个小栗子,试一下就知道了。)

(6)处理大数据常用排序:快速排序/堆排序/归并排序/桶排序

 

1. 给定a、b两个文件,各存放50亿个url,每个url各占64字节,内存限制是4G,让你找出a、b文件共同的url?

 

 2. 有一个1G大小的一个文件,里面每一行是一个词,词的大小不超过16字节,内存限制大小是1M,要求返回频数最高的100个词。

 

其实看这里,用Spark来处理: 《》

 

3. 现有海量日志数据保存在一个超级大的文件中,该文件无法直接读入内存,要求从中提取某天出访问百度次数最多的那个IP。

 

用Spark也可以,但是需要排序。

 

Spark里面有sortBy sortByKey等函数。

 

转载地址:http://kpmtx.baihongyu.com/

你可能感兴趣的文章
关于js中"window.location.href"、"location.href" 等如何跳转
查看>>
angularjs定义对集合进行过滤的过滤器
查看>>
军规13 降低流量和电量消耗
查看>>
详解Jedis连接池报错处理
查看>>
我的友情链接
查看>>
克隆Centos 无法上网
查看>>
我的友情链接
查看>>
Android 广播的生命周期
查看>>
Vim使用帮助
查看>>
Call && apply 用法
查看>>
Ora - 20005
查看>>
使用组策略部署exe软件
查看>>
linux笔记第一章--基本命令记载
查看>>
虚拟局域网VLAN
查看>>
Linux基础命令---dumpe2fs
查看>>
计算机视觉领域的一些牛人博客,超有实力的研究机构等的网站链接
查看>>
Linux网络配置命令
查看>>
软件安全加解密,程序授权管理控件CrypKey SDK
查看>>
2012年度IT博客大赛50强报道:高俊峰
查看>>
记mysqldump导出导入数据库的一个小问题~
查看>>