Jun2023 - Aug2023
1 min read
中软聚智
大数据开发实习生

在中软聚智担任大数据开发实习生期间,我与团队同事协作负责一个大型分布式大数据开发项目。项目涉及海量数据的处理、分析和存储,为企业决策提供数据支撑。

主要技术栈

  • 分布式计算: Apache Spark 进行大规模数据处理和分析
  • 大数据存储: Hadoop HDFS 构建分布式存储系统
  • 操作系统: Linux 环境下的开发和部署
  • 版本控制: Git 进行代码协作和版本管理
  • 数据处理: 实时和批处理数据管道的设计与实现

项目职责

  • 参与分布式数据处理架构的设计与实现
  • 使用 Spark 开发高效的数据处理作业
  • 配置和维护 Hadoop 集群环境
  • 与团队成员协作进行代码开发和技术方案讨论
  • 优化数据处理性能,提升系统吞吐量

收获与成长

通过这个项目,我深入学习了大数据技术栈,提升了分布式系统的开发能力,同时在团队协作和项目管理方面也得到了宝贵的经验。