segmentfaultsegmentfault
注册登录
产品
社群
使用“Bing”搜本站使用“Google”搜本站使用“百度”搜本站✓站内搜索
注册登录
问答博客资讯标签用户活动

logo极客观点logo项目管理logoHarmonyOS
开发者社区

javascript
前端
python
node.js
react
vue.js
php
laravel
go
人工智能
mysql
linux
ios
java
android
css
typescript
spring
程序员

logoONES 研发管理logo思否企业问答
问答博客资讯标签用户活动

logo极客观点logo项目管理logoHarmonyOS
开发者社区

javascript
前端
python
node.js
react
vue.js
php
laravel
go
人工智能
mysql
linux
ios
java
android
css
typescript
spring
程序员

logoONES 研发管理logo思否企业问答

Spark RDD中的partition的形成过程

头像
hust_sheng
    1566
    发布于
    2015-07-23

    一直搞不清楚spark中的RDD中划分出来的partition是在哪一步进行的,是HadoopRDD里面的
    val inputSplits = inputFormat.getSplits(jobConf, minPartitions)过程形成了RDD里面的partition吗?

    apache-spark
    阅读 6k
    撰写回答
    你尚未登录,登录后可以
    • 和开发者交流问题的细节
    • 关注并接收问题和回答的更新提醒
    • 参与内容的编辑和改进,让解决方法与时俱进
    推荐问题
    • 关于 Hudi 元数据字段(_hoodie_前缀)在 ODS 层进入 DWD 层时是否需要手动删除的请教?
      小弟最近在使用 Apache Hudi + Spark (Scala) 开发一个大数据项目,目前正在编写从 ODS 层 抽取数据到 DWD 层 的 ETL 程序。

      1 回答563 阅读

    相似问题
    • spark.read.option() 中的可用选项

      1 回答1k 阅读

    • 如何展平 Spark 数据框中的结构?

      2 回答811 阅读✓ 已解决

    • 如何使用 Java 中的 spark 将空值替换为 Dataframe 中的特定值?

      2 回答1.1k 阅读✓ 已解决

    • 将时间戳转换为 Spark 数据框中的日期

      2 回答1.3k 阅读✓ 已解决

    • 通过正则表达式捕获组拆分 spark 数据框列中的字符串

      2 回答1.5k 阅读✓ 已解决

    找不到问题?创建新问题
    宣传栏
    思否旗下产品
    SegmentFault
    思否企业服务
    思否公开课
    思否企业问答
    ONES 旗下产品
    ONES
    Tower
    为知笔记
    企业问答
    ONES.com
    项目管理百科
    资源
    每周精选
    用户排行榜
    帮助中心
    建议反馈
    声望
    勋章
    合作
    关于我们
    广告投放
    联系我们
    合作伙伴
    关注
    产品技术日志
    社区运营日志
    市场运营日志
    社区访谈
    条款
    服务协议
    隐私政策
    下载 App

    Copyright © 2011-2026 SegmentFault. 当前呈现版本 25.09.19

    浙ICP备15005796号-2浙公网安备33010602002000号ICP 经营许可 浙B2-20201554

    杭州堆栈科技有限公司版权所有

    思否 - 凝聚集体智慧,推动技术进步