数据分库是为了解决单个数据库性能瓶颈,提升系统扩展性和稳定性。1.水平分库通过哈希等规则将数据分散到多个数据库,优点是可扩展性强,但存在跨库事务和数据倾斜问题;2.垂直分库按业务模块拆分数据,优点是结构清晰便于维护,但可能仍存在单模块数据量过大的问题;3.读写分离通过主从复制将读写操作分离,提高读性能但存在延迟风险。实际应用中可根据业务需求选择合适方案或组合使用,并需关注数据一致性与迁移策略。
数据分库,简单来说,就是把原本放在一个数据库里的数据,拆分到多个数据库中。为什么要这么做?最直接的原因就是数据量太大,单个数据库扛不住了。更深层的原因,是为了提升性能、扩展性,让系统更稳定。
数据分库的核心目标是将数据分散存储,以减轻单个数据库的压力,提高整体的读写能力。下面介绍三种常见的数据分库架构方案,并附带一些php实现上的考量。
水平分库(Sharding)
水平分库是最常见的分库方式。它按照某种规则(例如用户ID的哈希值),将数据分散到不同的数据库中。每个数据库存储的是一部分数据,所有数据库的数据加起来才是完整的数据集。
立即学习“PHP免费学习笔记(深入)”;
优点:
- 解决单库数据量过大瓶颈。
- 理论上可以无限扩展,只要增加数据库实例即可。
缺点:
- 跨库事务处理复杂。
- 数据迁移和扩容需要重新计算路由规则。
- 需要考虑数据倾斜问题,即某些数据库的数据量远大于其他数据库。
PHP实现示例(简化版):
<?php class ShardingDatabase { private $databases; private $shardingKey; public function __construct(array $databases, string $shardingKey) { $this->databases = $databases; $this->shardingKey = $shardingKey; } private function getDatabase(int $shardingValue): PDO { $dbCount = count($this->databases); $dbIndex = $shardingValue % $dbCount; return $this->databases[$dbIndex]; // 假设 databases 数组存储的是 PDO 连接 } public function query(string $sql, array $params, int $shardingValue) { $db = $this->getDatabase($shardingValue); $stmt = $db->prepare($sql); $stmt->execute($params); return $stmt->fetchAll(PDO::FETCH_ASSOC); } public function insert(string $sql, array $params, int $shardingValue): bool { $db = $this->getDatabase($shardingValue); $stmt = $db->prepare($sql); return $stmt->execute($params); } } // 示例用法 $databases = [ new PDO("mysql:host=db1;dbname=users", "user", "password"), new PDO("mysql:host=db2;dbname=users", "user", "password"), ]; $shardingDb = new ShardingDatabase($databases, 'user_id'); // 插入数据,根据 user_id 分库 $userId = 123; $sql = "INSERT INTO users (user_id, name) VALUES (:user_id, :name)"; $params = [':user_id' => $userId, ':name' => 'Alice']; $shardingDb->insert($sql, $params, $userId); // 查询数据,同样根据 user_id $sql = "SELECT * FROM users WHERE user_id = :user_id"; $params = [':user_id' => $userId]; $result = $shardingDb->query($sql, $params, $userId); print_r($result); ?>
这个例子非常简化,实际应用中需要考虑连接池、错误处理、更复杂的路由规则等等。$shardingKey 定义了根据哪个字段进行分片,$shardingValue 则是该字段的具体值。
垂直分库
垂直分库是按照业务模块将数据分散到不同的数据库中。例如,可以将用户相关的表放在一个数据库,订单相关的表放在另一个数据库。
优点:
- 业务清晰,易于维护。
- 可以针对不同的业务模块选择不同的数据库类型。
缺点:
- 某些业务模块的数据量仍然可能很大。
- 跨模块的关联查询需要通过服务调用或者数据同步来实现,增加了复杂度。
PHP实现示例:
垂直分库在PHP代码层面,更多的是体现在配置和管理上。你可以创建多个数据库连接配置,每个配置对应一个业务数据库。
<?php class DatabaseConfig { public static function getUserDbConfig(): array { return [ 'host' => 'user_db_host', 'dbname' => 'user_db', 'user' => 'user', 'password' => 'password', ]; } public static function getOrderDbConfig(): array { return [ 'host' => 'order_db_host', 'dbname' => 'order_db', 'user' => 'user', 'password' => 'password', ]; } } class UserDatabase { private $db; public function __construct() { $config = DatabaseConfig::getUserDbConfig(); $dsn = "mysql:host={$config['host']};dbname={$config['dbname']}"; $this->db = new PDO($dsn, $config['user'], $config['password']); } public function getUserById(int $userId): array { $stmt = $this->db->prepare("SELECT * FROM users WHERE id = :id"); $stmt->execute([':id' => $userId]); return $stmt->fetch(PDO::FETCH_ASSOC); } } class OrderDatabase { private $db; public function __construct() { $config = DatabaseConfig::getOrderDbConfig(); $dsn = "mysql:host={$config['host']};dbname={$config['dbname']}"; $this->db = new PDO($dsn, $config['user'], $config['password']); } public function getOrdersByUserId(int $userId): array { $stmt = $this->db->prepare("SELECT * FROM orders WHERE user_id = :user_id"); $stmt->execute([':user_id' => $userId]); return $stmt->fetchAll(PDO::FETCH_ASSOC); } } // 示例用法 $userDb = new UserDatabase(); $orderDb = new OrderDatabase(); $user = $userDb->getUserById(1); $orders = $orderDb->getOrdersByUserId(1); print_r($user); print_r($orders); ?>
这个例子展示了如何通过不同的配置,连接到不同的业务数据库。
读写分离
读写分离是将读操作和写操作分别路由到不同的数据库。通常情况下,写操作路由到主库,读操作路由到从库。主库负责数据的更新,从库负责数据的查询。数据通过主从复制同步。
优点:
- 提高读操作的性能。
- 降低主库的压力。
缺点:
- 数据存在延迟,可能出现读到旧数据的情况。
- 需要考虑主从复制的延迟问题。
PHP实现示例:
<?php class ReadWriteDatabase { private $masterDb; private $slaveDbs; public function __construct(PDO $masterDb, array $slaveDbs) { $this->masterDb = $masterDb; $this->slaveDbs = $slaveDbs; } private function getSlaveDb(): PDO { $slaveCount = count($this->slaveDbs); $slaveIndex = rand(0, $slaveCount - 1); // 随机选择一个从库 return $this->slaveDbs[$slaveIndex]; } public function query(string $sql, array $params, bool $isWrite = false) { $db = $isWrite ? $this->masterDb : $this->getSlaveDb(); $stmt = $db->prepare($sql); $stmt->execute($params); return $stmt->fetchAll(PDO::FETCH_ASSOC); } public function insert(string $sql, array $params): bool { return $this->query($sql, $params, true); // 强制写主库 } public function update(string $sql, array $params): bool { return $this->query($sql, $params, true); // 强制写主库 } } // 示例用法 $masterDb = new PDO("mysql:host=master_db;dbname=mydb", "user", "password"); $slaveDbs = [ new PDO("mysql:host=slave_db1;dbname=mydb", "user", "password"), new PDO("mysql:host=slave_db2;dbname=mydb", "user", "password"), ]; $readWriteDb = new ReadWriteDatabase($masterDb, $slaveDbs); // 插入数据,写主库 $sql = "INSERT INTO users (name) VALUES (:name)"; $params = [':name' => 'Bob']; $readWriteDb->insert($sql, $params); // 查询数据,读从库 $sql = "SELECT * FROM users WHERE name = :name"; $params = [':name' => 'Bob']; $result = $readWriteDb->query($sql, $params); print_r($result); ?>
这个例子展示了如何将写操作路由到主库,读操作随机路由到从库。
如何选择合适的分库方案?
选择哪种分库方案,取决于你的具体业务场景。如果数据量巨大,且对事务要求不高,可以考虑水平分库。如果业务模块清晰,可以考虑垂直分库。如果读操作远多于写操作,可以考虑读写分离。当然,也可以将多种方案结合使用。
分库后如何保证数据一致性?
数据一致性是分库后需要重点考虑的问题。可以使用分布式事务、最终一致性方案等来保证数据一致性。
如何进行数据迁移?
数据迁移是一个复杂的过程,需要仔细规划。可以使用工具或者编写脚本来进行数据迁移。在迁移过程中,需要保证数据的完整性和可用性。