大数据架构师的岗位职责(集锦20篇)由网友“Wee”投稿提供,下面是小编为大家准备的大数据架构师的岗位职责,欢迎阅读借鉴。
篇1:数据架构师岗位职责
(1)架构服务部门的关键岗位。
(2)负责银行大数据分析和建设相关系统,为客户提供高质量的咨询及实施服务,为客户提供架构设计类项目的解决方案策划、咨询实施、产品搭建等售前、售中、售后一系列服务或培训服务。
(3)带领团队推进客户架构服务相关项目,支持新业务的开发拓展,结合实践经验提出对产品的优化改进建议。
(4)带领团队进行方法论及内部知识体系的提炼和完善工作。
篇2:数据架构师岗位职责
1.制定面向产品的数据设计规范和流程,制定数据设计所需的各种文档模板;
2.负责数据仓库建模、数据库优化、数据部署,数据抽取等ETL的设计,编写专业的系统设计文档;
3.对于IT系统应对大数据量和大并发所要求的性能指标从数据模型和部署等方面给出设计和持续的优化支持;
4.参与产品架构设计文档和详细设计文档的评审;
5.完成上级领导安排的其他任务。
篇3:数据架构师岗位职责
1、深入理解MDM主数据管理思想和流程;
2、理解业务数据、主数据与元数据的区别与关系;
3、参与过数据模型的设计与开发;
4、深入理解数据清洗,标准化,转换,匹配,数据质量、安全管理的原理和业务流程;
5、参与过数据ETL开发与设计;
6、熟练运用主流DBMS,nosql数据库。
篇4:数据架构师岗位职责
1.负责公司大数据平台整体架构的规划和技术设计;
2.负责数据平台关键模块或功能的设计和开发,技术难题的解决,以及代码质量的把控;
3.负责对大数据相关前瞻技术的研究与评估;
4.指导工程师完成开发工作,并分享技术经验;
5.主导公司大数据有关项目的技术落地和日常开发维护工作。
篇5:数据架构师岗位职责
1.参与开发框架研发工作,根据工作安排,独立研发各类通用技术组件、基础框架组件以及通用业务功能组件;
2.参与开发框架及技术平台类软件的维护和支持工作,帮助的项目团队使用框架,解决使用中的问题;
3.参与新技术研究工作,提出适应保险公司的先进IT技术,提出全公司信息技术应用发展方向及新技术应用的方案和建议。
篇6:大数据平台架构师岗位职责精选范本
1、负责公司大数据处理框架研发工作,设计与开发分布式存储、数据处理与分析架构。
2、负责大数据平台与产品和相关技术的追踪及研究。
3、负责大数据的处理工作,以及业务数据提取、加载、转换处理流程的开发和优化。
4、利用大数据平台工具对数据维护。
5、负责相关项目的技术支持和服务。
6、持续对系统的技术架构进行改进和优化。
篇7:大数据平台架构师岗位职责精选范本
1. 负责大数据项目整体架构规划,包括应用架构、技术架构、物理架构和数据架构等;
2. 负责指导工程师进行技术验证与实现,核心技术问题的攻关,解决项目开发过程中的技术难题;
3. 负责项目对外技术沟通,具有较强的沟通,表达和文档撰写能力;
4. 根据公司项目和业务发展特点,负责研究相关大数据前沿技术;
5. 推动技术能力的沉淀。
篇8:大数据平台架构师岗位职责精选范本
1. 负责数澜大数据平台的架构设计和研发,建立数据生态服务,解决海量数据面临的挑战;
2. 管理和优化Hadoop、Spark等集群,计算作业的调优,保证集群和平台的高效和稳定;
3. 负责Hadoop、Spark、Flink的功能、性能和扩展,解决并实现业务需求;
4. 负责大数据产品的自动化、离线与实时计算、即席计算、数据质量、数据安全、机器学习等平台的设计和开发;
5. 调研和把握当前的最新技术,将其中的先进技术引入到自己的平台中,改善产品,提升竞争力;
篇9:大数据平台架构师岗位职责精选范本
1、负责大数据平台资源规划、权限控制、运维架构设计,为各产品业务提供稳定、高效、安全的运行环境;
2、负责实时,离线数据分析处理及实时平台的建设和搭建
3、熟悉 Flink 流式计算引擎的使用以及源码原理,并且有相关的流式处理平台的经验。
4、Java基础扎实,熟练掌握垃圾回收,网络,多线程编程,了解 python 或 scala
5、负责大数据平台技术架构、数据架构的分析与设计;
篇10:大数据平台架构师岗位职责精选范本
1、建设大数据平台,主要技术为k8s, docker;
2、跟进开源社区的更新,阅读文档,验证feature;
3、阅读容器生态圈各组件的开源项目代码,开发新功能;
4、持续提升平台的性能和稳定性。
篇11:大数据架构师的岗位职责
职责:
1、负责公司大数据产品的架构设计,包含数据收集、数据存储、数据应用,并完成相关架构设计文档的撰写;
2、参与规划从数据源到数据应用的整体流程,并参与相关产品的决策;
3、负责解决核心技术问题,对技术方案进行决策;
4、负责大数据研发团队建设、人才梯队培养和技术团队管理;
5、积极了解业界发展,研究与跟踪大数据新技术发展方向。
任职要求:
1、精通GoldenGate For BigData相关理论,具备大型数据利用的生产实战经验;
2、精通数据驱动的理论,设计并生产上线相关数据驱动的产品;
3、精通常用消息中间件的使用,例如kafka/RocketMQ/Apache Pulsar,有解读相关源码者优先;
4、掌握hadoop、spark生态体系相关产品的使用,掌握MapReduce编程或Spark编程;
5、了解传统数据仓库理论及相关ETL工具,例如kettle/datastage;
6、熟悉Oracle、Mongodb、Mysql数据库的使用;
7、扎实的Java语言基础,熟悉Java开发工具和调试工具的使用;
8、良好的团队协作精神,有能力对团队在软件设计、实现和测试方面进行指导;
9、良好的逻辑分析能力和沟通能力,执行力强、对待工作认真严谨、责任心强、具备出色的学习能力和团队合作精神,有一定的推动能力;
10、计算机科学、信息技术或相关领域本科以上学历,具有5年以上数据平台项目开发经验,3年以上的架构设计经验,具有大数据平台应用大型项目架构设计经验优先;
篇12:大数据架构师的岗位职责
职责:
1、搭建基于Hadoop/Spark的数据挖掘体系和大数据分析系统架构;
2、研究大数据领域前沿数据挖掘技术,并引入相应技术在数据中心的使用;
3、进行大数据系统框架设计、模型算法开发;
4、负责大型数据挖掘项目方案制定、项目实施落地及优化等 ;
5、开展数据爬取、聚类分析、舆情分析、鱼骨图分析、定价策略等领域数据挖掘工作;
任职资格:
1、本科以上学历(持有学士学位)(985,211优先),计算机相关专业,五年工作经验;
2、二年以上数据挖掘项目经验,完整参与过数据挖掘大数据平台的架构开发过程,具备互联网行业背景优先;
3、精通分布式计算框架(hadoop、spark、Storm等)及相关经验,熟练掌握Hive/SQL,Python,熟悉Python、R相关数值科学计算库(NumPy,SciPy等);
4、了解传统的BI/DW 理论,能结合传统BI***实践设计大数据平台;
5、熟悉常用机器学习算法(如分类、回归、聚类、关联规则等)及其原理,具备应用场景经验,如用户画像、商品关联度分析、舆情分析;
6、熟悉主数据、元数据、数据质量、和数据建模等数据治理相关的体系和方法;
7、具备较强的逻辑思维能力、数据敏感度,擅于利用数据发现问题及解决问题;
篇13:大数据架构师的岗位职责
职责:
1)负责公司软件产品整体架构的设计和关键功能实现
2)负责公司架构长期看护以及优化;
3)负责软件部门各模组间的协调配合;
4)提高巩固软件代码质量;
5)负责大数据流式框架的设计、优化及部署;
6)规划研发部门员工的技术发展路线并提供必要的帮助和指导
任职资格:
1)本科及以上学历,计算机相关专业,5年以上工作经验;
2)频繁换工作,比如一年一个公司,请绕路;
3)3年以上产品架构经验,主导过产品的成功上线;
4)对底层设备通讯协议,B/S系统,手机APP开发等都有一定的了解;
5)对各种主流语言C#JavaPathon有一定的了解
5)精通各种大数据架构,并深入研究过其中一种,有stormkafka等流式实时处理经验为佳
6)能够承担较强的工作压力,有良好的自我驱动能力和责任感;
7)具备优秀的逻辑思维能力、表达能力、沟通协调能力。
篇14:大数据架构师的岗位职责
职责:
1.负责公司大数据底层框架的整体架构设计,结合公司实际业务情况进行技术选型及大数据战略规划;
2.负责统一数据平台项目的整体评估、设计、架构及关键模块的开发,不断提升系统的稳定性和效率;
3.负责架构优化及系统关键模块的设计开发,协助团队解决开发过程中的技术难题;
4.建立良好的公司内外的业界技术影响力;有效辅导团队,提升数据研发能力;
任职要求:
1.从事大数据项目相关开发和设计2年以上经验;有作为技术负责人系统化解决问题的成功案例;有海量数据实践经验优先;
2.拥有一定的算法和数据结构基础;有很强的数据设计抽象能力,善于从复杂的数据问题中找到关键路径;
3.熟悉目前正在发展的大数据分布式平台前沿技术的应用;包括但不仅仅限于:hadoop、storm、spark、等;
4. 良好的逻辑思维能力,良好的业务解读能力,懂电力或通信业务优先;
5.具有钻研精神,乐于接受挑战;
篇15:大数据架构师的岗位职责
职责:
1、负责大数据开发团队建设;
2、负责行业大数据产品架构设计与研发;
3、负责带领团队进行行业大数据产品关键技术攻关。
任职要求:
1、有三年以上大数据应用、开发经验;具备海量数据加工处理(ETL)相关经验,对数据挖掘及机器学习有较为深刻的理解;
2、熟悉Hadoop相关技术,对HDFS、MapReduce、Hive、HBase有一定的使用和开发经验;
3、熟悉Linux,熟练使用Shell或Python,进行脚本编写;
4、对数据结构和数据统计分析算法有较为深刻理解;
5、掌握至少一种主流关系数据库开发技术:Oracle、SQL Server、MySQL等;
6、掌握实时流计算技术,有Spark、Storm开发经验者优先;
7、需要具备2年以上研发团队管理经验。
篇16:大数据架构师工作的岗位职责
职责:
1、负责大数据平台技术框架的技术选型和搭建;
2、负责核心技术问题公关,建设高可靠性,扩展性及高性能大数据/数据应用平台;
3、负责规划数据挖掘的整体流程,负责大数据开发团队业务需求开发;
4、与其他团队密切配合,寻求数据层面的业务价值,利用数据分析结论推动产品优化;
5、研究和分享大数据架构领域新技术。
任职要求:
1、计算机相关专业全日制统招本科及以上;
2、5年以上工作经验,至少3年以上大数据项目相关工作经验,能够设计大型大数据系统的架构和技术方案;
3、精通Hadoop/Spark/Hbase/Hive等大数据技术,精通ETL技术;
4、熟悉数据挖掘,了解典型大数据算法和策略;
5、熟悉主流Java技术框架,精通关系型数据库及SQL语言,熟悉NoSQL/JSON/XML;
6、有较强的学习能力和问题解决能力,逻辑严密、思路清晰;
7、有数据仓库经验者优先,有金融行业项目经验者优先。
篇17:大数据架构师工作的岗位职责
职责:
1、负责DMP技术架构设计与构建,根据业务规划及技术规划制定应用架构方案;
2、负责设计构建DMP数据采集、存储及分析框架,设计数据处理的技术流程和规范;
3、负责核心功能的架构与代码模板编写,开发与维护系统公用核心模块;
4、负责基于大数据技术的海量数据的自动化分析处理和统计工作。
岗位要求:
1、计算机或相关专业本科以上学历,三年以上的开发经验,二年以上大数据相关软件架构的实际经验;
2、精通大数据处理技术,熟悉Hadoop/Storm技术体系,有Hadoop、Hive、Hbase项目经验;
3、具有较强的架构能力,具有分布式计算、实时计算、数据仓库、数据挖掘系统的架构经历优先;
4、对数据敏感,洞察力强,了解国内外广告发展趋势;
5.、擅长系统分析与设计,精通常用的设计模式,擅长性能调优;
6、熟悉DMP/RTB技术原理,了解用户的行为分析及建模;有RTB/DSP/SSP/EXCHANGE/DMP等广告行业从业经历。
篇18:大数据架构师工作的岗位职责
职责
1、负责大数据架构设计,包括定义数据的存储、集成(ETL)、应用,支撑业务运营和数据分析类需求实现;
2、制定数据治理领域的数据体系化管理措施,包括元数据设计、数据标准、数据质量、数据处理、数据安全等工作,确保数据可信与安全;
3、基于行业数据积累,满足业务的数据挖掘需求,实现从数据到资产的转变,根据目标行业建立具有前瞻性的数据模型;
4、对各产品的数据安全负责,主导制定和实施数据库系统安全策略,保证整体方案数据安全;
岗位要求
业务技能要求:
1、深入理解云化、数据仓库,在参与过的系统设计中,必须涉及这两项关键技术;
n2、精通或者熟悉Hadoop体系架构,以及HDFS/HBase/Hive/MapReduce/Spark等技术,了解体系架构各组件的优缺点,有直接的产品设计与开发、部署、调优的经验;
3、精通或熟悉常见RDBMS(Oracle / PostgreSQL / MySql)、NoSQL(Redis / Memcached/ MongoDB)、全文搜索引擎(Solr/ElasticSearch)的使用及开发,了解各数据库优缺点, 熟悉与架构设计相关的数据存储、性能调优等相关领域知识,有相关项目经验尤佳;
4、熟悉业界常用的数据采集、集成、数据存储、计算、数据模型、数据分析的技术方案,具有数据分析或数据挖掘相关经验者优先;
n5、熟悉数据治理相关流程,包括数据接入、数据处理、数据治理、数据组织、数据服务等。
专业知识要求:
1、具备数据治理的知识与体系方案,包含政策、组织、角色、流程、规范等,以及规划相应的支撑方案。了解业界的数据管理方法论;
2、具备数据用例设计和开发能力。能够基于业务相关数据进行业务需求分析和痛点识别,将业务需求转化为数据的需求,完成数据用例的设计和开发;
3、精通海量数据(日增量百亿)级别数据仓库、数据集市的构建流程。熟悉公安、政务、工业、交通、医疗等多行业业务者优先。
篇19:大数据架构师工作的岗位职责
职责:
1. 负责大数据平台的基础技术规划,编制相关规范文档。
2. 负责大数据平台的数据采集,处理,存储以及挖掘分析的架构实现。
3. 负责大数据平台的实际规划建设,包括环境和框架的规划搭建以及部分核心编码工作。
4. 负责大数据相关技术发展方向的预研。
5. 参与业务需求调研,根据需求及行业特点设计大数据解决方案并跟进具体实施项目。
6. 制定大数据平台中数据质量,业务质量监控及管理办法。
岗位要求:
1. 全日制本科及以上学历,5年以上工作经验,4年及以上大数据架构设计经验,熟悉大数据解决方案,包括Hadoop平台、Spark、storm、机器学习、深度学习等大数据解决方案。
2. 深刻理解大数据处理(流计算、分布式计算、分布式文件系统、分布式存储等相关技术)实现方法。有架构和设计实践经验。
3. 精通大型数据库Oracle、SqlServer等的开发。
4. 精通java,Python中的一种或多种语言。
5. 熟悉容器、虚拟化、微服务框架等相关技术。
6. 对数据敏感,有严谨的工作思路,良好的沟通能力和团队合作精神。
7. 熟悉R,Python,SAS、SPSS等数据挖掘经验者优先。
8. 高宽展性,高性能,和分布式系统的实践及运维经验者优先。
9. 有大型数据仓库实施、大数据平台数据开发经验,熟悉运营商业务者优先。
篇20:大数据架构师工作的岗位职责
职责:
1、负责spark, hadoop, flink等开发和优化。
2、参与前期需求沟通和分析,以产品化开发的思维,完成需求分解和数据架构设计。
3、与研发和数据科学家合作保证产品定义清晰,按时完成产品上线。
4、能够洞察市场状况,与各部门合作转化为基于大数据挖掘的新策略或方案.
5、主动创造和发掘新的基于大数据挖掘产品商业模式.
任职要求:
1、全日制本科及以上学历,计算机软件相关专业,5年以上开发经验,3年以上架构经验
2、精通hadoop/MapReduce/Spark/Hbase/Flink/Hive/R/Mahout等分布式数据存储和分布式计算平台原理,流式计算开发,有开源二次开发经验者优先。
3、精通大数据挖掘、机器学习.熟练掌握Java/Perl/Python至少一种编程语言。
4、具有数据挖掘和分析、机器学习等项目实施相关经验者优先;
5、良好的跨部门沟通合作能力,解决不同观点能力并取得结果。具备敏锐的互联网产品理解力,学习能力和逻辑思维能力强;
6、较强的自我驱动力、推动和协调能力,强烈的责任心和团队合作精神;
★ 未来架构师征文
【大数据架构师的岗位职责(集锦20篇)】相关文章:
关于人力资源部的工作计划2023-10-06
人力资源部工作总结及工作计划2022-11-06
公司人力资源部工作计划2023-12-12
公司人力资源部年工作计划2022-12-21
人力资源规划职业生涯规划2022-12-08
行政经理述职报告2022-11-07
单位人事专员介绍信2023-08-13
关于公司人力资源计划书!2023-07-19
人力资源计划2022-07-30
师培工作计划2023-11-22