2021年8月6日
1.CDH6升级
CDH6客户可以直接从CDH 6.1.x, 6.2.x和6.3.x集群原地升级到CDP Private Cloud Base,而不需要搭建一个新的集群。
2.回滚操作文档
支持从CDH6升级到CDP7.1.7的回滚操作;
支持从HDP3升级到CDP7.1.6的回滚操作;
3.新的升级指南
现在docs.cloudera.com网站上提供了一个新的Upgrade Companion,为所有CDP升级相关活动提供一个集中的文档中心。Upgrade Companion包含一组内容选项卡,涵盖了 CDP 升级的 5 个主要步骤:
Getting Started
Pre-upgrade Tasks
Upgrade the Cluster
Post-upgrade Task
Troubleshooting
Upgrade Companion 还包括一组过滤器,可以按照读者的特定配置需求减少查看的内容。
注意:Upgrade Companion的目的是补充而不是取代现有的升级文档。
1.新操作系统版本
CDP Private Cloud Base现在支持针对Intel x86和IBM PPC硬件的RHEL/CENTOS 8.2;
2.新DB版本
CDP Private Cloud Base现在支持MariaDB 10.3, MariaDB 10.4和Oracle 19c (19.9)
1.Cloudera Manager增强功能(版本7.4.4)
通过升级20多个内置的库修复了大量CVE安全漏洞;
提供一个工具可以检查LDAP的连接性,当启用外部身份验证时;
任意服务的Extensible Commission/Decommission工作流;
Service Monitor可以适应低内存环境;
用于CSD authors的Atlas canary & extensible canary监控框架;
对于Ozone,YARN QM提供可配置的Kerberos config file location和principals;
更高效的机架拓扑评估(YARN 性能提高多达 20%);
一致的操作系统user/group ID(无缝重新挂载云存储卷);
快照存储现在包含在 HDFS usage report中;
Test DB连接工具支持Oracle RAC。
2.SDX增强
对于Hive表创建的Ranger权限支持新资源"storage-type"和"storage-url",以及新权限"RW Storage"。当 doAs = false 时,超级用户“hive”将是在指定存储中创建表的用户,这样创建表时使用的是hive用户的授权,而不是发出“create/alter table”命令的原始用户的授权。
HDFS superuser的操作现在会被Ranger Audit捕获
Ranger audit增强包括:
现在支持表格样式的过滤器
很容易就选择audit过滤器以显示完整的用户访问详细信息
新增一个用于指定Ranger audits最长保留天数的配置选项
当用户和组从同步源(UNIX、LDAP、AD 或 PAM)中删除时,Usersync服务会更新Ranger。这样可以确保用户和组及其相关访问权限在从同步源中删除时不会保留在Ranger中。
CM上可以为Ranger配置Maximum Retention Days属性。用户现在可以在CM中为Ranger配置ranger.audit.solr.config.ttl和ranger.audit.solr.config.delete.trigger参数来更新Solr document的过期时间,同时刷新配置以获得使用ttl和delete trigger更新过后的Ranger audit的Solr collection。
3.Data Warehouse增强
Impala现在支持使用Ranger的行级别权限策略。Row-level filter策略同其他Ranger访问策略相似,可以为特定用户、组和条件设置过滤器。
4.平台增强
Ozone现在默认启用高可用配置,以避免任何单点故障风险;
Ozone Node Decommissioning可以让管理员轻松进行操作系统升级、硬件维护等;
Ozone的Safe Delete功能有助于防止意外删除文件和目录;
YARN 兼容性增强
支持配置了基于公平性(fairness-based)排序的队列的队列内抢占
支持 LazyPreemption,优化从队列中选择容器以进行抢占
Dynamic Queue Scheduling (TP)功能可以使用户动态更改队列资源分配
Cloudera Manager中现在可以直接配置Kudu 与 Hive Metastore集成;
Kudu 支持 INSERT 和 INSERT_IGNORE 操作的多行事务,技术预览版
5.Streaming增强
现在可以将 Kafka 服务配置为自动将topic元数据发布到 Apache Atlas,Kafka topic会在Atlas中显示为单个实体以及Data Lineage图;
Streams Messaging Manager (SMM) 现在可以配置使用外部Prometheus指标存储,而不使用Cloudera Manager。这样当有大量topic,partition,consumer和producer时,提升SMM的可扩展性;
从Confluent Schema Registry的Kafka topic,dump出来的schema现在可以导入到Cloudera的Schema Registry,通过REST API上传schema文件;
Streams Replication Manager支持以安全方式存储所有敏感数据;
Cruise Control开放TLS配置可以支持TLS 密码和协议。
原文参考:
https://docs.cloudera.com/cdp-private-cloud/latest/release-summaries/topics/announcement-202108-717.html
Cloudera Manager发行说明:
https://docs.cloudera.com/cdp-private-cloud-base/7.1.7/manager-release-notes/topics/cm-whats-new-744.html
Cloudera Runtime发行说明:
https://docs.cloudera.com/cdp-private-cloud-base/7.1.7/runtime-release-notes/topics/rt-pvc-runtime-overview.html
CDP PvC Base概述:
https://docs.cloudera.com/cdp-private-cloud/latest/overview/index.html
下载CM7.4.4:
https://archive.cloudera.com/p/cm7/7.4.4
下载CDP7.1.7Runtime:
https://archive.cloudera.com/p/cdh7/
本文分享自微信公众号 - Hadoop实操(gh_c4c535955d0f)。
如有侵权,请联系 [email protected] 删除。
本文参与“OSC源创计划”,欢迎正在阅读的你也加入,一起分享。