看了很多关于Storm性能的文章,说法不一,自己根据实际业务测一下是否能满足自身要求(只做了简单集群和代码调优)
- 场景:kafka消费数据标准化后存储到Hbase中
- 服务器资源:
两台32G内存做Supervisor
- 使用资源
平均处理数据速度 13000 条/秒,可以满足业务需求,ok
- Storm参数
conf.setNumWorkers(10); conf.put(Config.TOPOLOGY_MAX_SPOUT_PENDING, 1024);conf.put(Config.TOPOLOGY_EXECUTOR_RECEIVE_BUFFER_SIZE,16384);conf.put(Config.TOPOLOGY_EXECUTOR_SEND_BUFFER_SIZE,16384);conf.put(Config.TOPOLOGY_TRANSFER_BUFFER_SIZE,32);conf.put(Config.TOPOLOGY_MESSAGE_TIMEOUT_SECS, 300);