Etiket Bulutu

Benchmark Convert_IMplicit Database High Availability Database Mirroring datawarehouse dimension table dmv Dynamic Data Masking Execution Execution Plans fact table Failover Cluster Node ekleme Failover Clustering FileStream generate script High Availability Implicit Instant File Initialization index Kinect Linux Live Query Statistics Log Shipping Mirroring object explorer object explorer details ODBC Driver pass performance performance tuning Plan Handle Planü Power View reporting services rol Row Level Security script sql serer 2016 sql server SQL Server 2008 SQL Server 2008 Log Shipping SQL Server 2012 SQL Server 2012 installation SQL Server 2012 Kurulumu SQL Server Backup SQL Server da Backup planı SQL Server da Maintenance Plans oluşturma SQL Server database mirroring SQL Server Disaster Recovery sql server dynamic management views SQL Server Failover Cluster SQL Server High Availability SQL Server Log Shipping SQL Server Maintenace Plans sql server performans SQLDIAG SQLDIAG Troubleshooting T24 Temenos truncate table t-sql unique index performance 1. Dünya savaşı istatistikleri 1456 451 ACID advanced analytics Advanced Data Analytics Affinity algı Alter index Alter table ALTER TABLE .. ALTER COLUMN Altın Oran Always On ALWAYSON AlwaysOnDemoTool amazon web services kinesis AMR analiz analysis service Ankara Antivirus apache kafka Arduino Article Assembly asymmetric audit Authentication Auto Growth Availability Group azure Azure Backup azure event hub partition azure event hubs azure event hubs servisi azure event hubs veri edinme Azure File Share Azure Fiyatlandırma Azure HDInsight Azure Hizmet Modelleri Azure ML Azure New Portal Azure Pricing Azure Queue azure sql database configuration azure sql database kullanımı azure sql database stream veriyi tutma azure sql database table partitioning Azure Storage azure stream analytics azure stream analytics dashboard azure stream analytics ölçeklendirilmesi azure stream analytics servisi Azure Table BA Backup backup encyrption backupset Bakım BASE bellek Best Practice BI Semantic Model Big Data Big User blocking blocking disable trigger blocking enable trigger Buffer Cache buffer pool Buffer Pool Extension bulk logged Buluta Veri Depolama Buluttaki Disk Business Analytics Conference business intelligence Büyük Veri Case Central Management Server certificate changed data capture Cloud Computing Cloud DR CLR Cluster clustered columnstore index Clustered Index Code Snippets Cold Purging collation column store column-level columnstore ColumnStore Indexes Compress ComputerNamePhysicalNetBIOS Concurrency Conditions Contained Database Contained Databases convert CONVERT_IMPLICIT Corruption Credentials cube DAC Dashboard Tasarımı data cleansing Data Compression Data Consistency Model data encryption data matching data mining Data Page data profiling data quality Data Services Data Warehouse Design Database database list Database Management Sistem database master key Database Mirroring Database Snapshot database trigger database-level Data-Ink Ratio datasets datasource DataZen date date dimension db_owner DBA DBCC dbcc dropcleanbuffers dbcc freeproccache DBMS dbo user DDL deadlock debugging DecryptByKey DecryptByPassPhrase deleted bitmap delta store Denali Denali SSAS deny database list deşifre detail index developer DIFFERENTIAL BACKUP DirectQuery Dirty Read Disaster Recovery Distribution Yapılandırma Distributor Distributor Agent dm_server_services DMF DMO DMV document db dosya bazlı şifreleme dqs dr Dynamic Management Function Dynamic Management Object Dynamic Management View ecrypt Effected Report Design Techniques Eğitim EncryptByKey EncryptByPassPhrase encryption endpoint Environment Variable error Error 5030 Error Log Estetik Raporlama Estimated Rows Eş Zamanlılkk Etkili Rapor Tasarlama Teknikleri Etkinlik ETL event Event Viewer except;intersect;sql execution Execution Plan export formats extended events Extended Stored Procedure Facets Failover Failover Cluster fast n execution plan FETCH NEXT FILELISTONLY FILLFACTOR File Table file-level FileStream Filter Pack Filtered Index First_Value Flat File fn_repl_hash_binary Focal Point foreignkey FORMAT Forwarded Record forwarded_record_count ftp task FULL BACKUP Full Recovery Full-Text Search functions Gartner Geocluster Gerçek Zamanlı Dashboard gestalt Golden Ratio görsel duyu group by Güvenlik ha Hadoop hafıza Hash HASHBYTES HEADERONLY headers footers Heap Hekaton hicri High Availability hijr Hiyerarşi Hybrid Cloud IaaS Index Index Scan In-Memory InMemory DW In-Memory DW InMemory OLTP In-Memory OLTP Internet of People Internet of Things IO IOT IoT nedir Isolation Level indeks index inmemory in-memory oltp internet of things isolation level istatistik istatistikler İş zekası İzolasyon Seviyesi Job json json support knowledge base kolon-satır bazlı kurulum küp Lag Lansman latch Lead linked server lock locking locking hints Log Backup Log Reader Agent Log Shipping login Lost-Update LQS Machine Learning Maintenance Management Studio matrix Max Text Replication Size mdx memory Memory Optimization Advisor Memory Optimized Table Memory Optimized Tables merge Merge Agent merge kullanımı Merge Publication Merge Replication merge type 1 slowly changing dimension merge type 1 slowly changing dimension örneği merge type 1 vs type 2 scd merge type 2 slowly changing dimension merge type 2 slowly changing dimension örneği merge type 3 slowly changing dimension merge type 4 slowly changing dimension message Microsoft Advanced Data Analytics Çözümleri microsoft azure Microsoft Bulut Microsoft Sanal Akademi Microsoft SQL Server Microsoft SQL Server 2014 Yenilikleri Microsoft SQL Server 2016 Mirror mirroring missing index Monitoring move Msdb multi_user multiversion concurrency control MVP MVP Roadshow MySnippet Named Pipes Natively Store Procedures Natively Stored Procedures Nesnelerin İnterneti Network Binding Order NoEngine Approaches nonclustered columnstore index Non-Repetable Read NoSQL NoSQL Approaches NoSQL Dünyası object explorer Odak Noktası ODBC Office 365 Offline OFFSET olap OLAP Backup OLE DB OLTP Online Index order attributes Otomatik Büyüme OVER PaaS PAD_INDEX page out page properties PAGE RESTORE PAGEIOLATCH paging parameters partition partitioning PASS PASS Summit PASS Summit 2014 Performance Performance Tuning performans performans tuning Phantom Read pivot Policies Policy Based Management Filtreleme Policy Management Power BI Power BI Dashboard Power BI Rest API power bi power view PowerBI PowerBI for Office 365 powerbi PowerMap PowerPivot PowerQuery powershell powershell ile sql yönetimi PowerView PowerView raporlarının web sayfalarına gömülmesi precon Primary Key primarykey Project Deployment Model Project Variable Protokol Proxy Proxy Account Publisher Purging on Independent Tables QL Server 2014 Yenilikleri Que Reader Agent Query Plan query store R Range Raporlama Raporlama Projeleri için Strateji Belirleme Raporlama Projelerine Hazırlık Read Committed Read Uncommitted RealTime Dashboard Rebuild RECONFIGURE RECONFIGURE WITH OVERRIDE Recovery model Relational Engine relationships Rename SSRS Database Repeatable Read Replication Replication Monitoring replikasyon report manager web site report parts reporting service reporting services reporting servis Resource Governor RESTORE Restore Database Restore Generate Restore Generate Script Restore transaction log rollback rs Rule of Thirds sa user SaaS sayfalama scd 3 demo scd karşılaştırma scd type 4 demo Scheduling Schema Comparison script Security segment elimination select into Self-Service BI Semantic Search Serializable Server Core SERVERPROPERTY Service services shared data sources shared datasets Shared Memory sharepoint Sharepoint 2010 ShowPlan Shrink simple recovery sing_user sliding window Slowly Changing Dimension snapshot Snapshot Agent Snapshot Publication Snapshot Replication Snippet snowflake sorting sp_configure sp_describe_first_result_set sp_server_diagnostics sp_spaceused sql SQL Agent Job SQL Azure sql bilgi yarışması SQL CLR SQL DIAG SQL DIAG Performans verisi toplama SQL endpoint SQL Login SQL Onculeri SQL Öncüleri sql script sql server SQL Server 2005 SQL Server 2008 SQL Server 2011 CTP3 SQL Server 2011 Denali SQL Server 2012 SQL Server 2012 CTP3 SQL Server 2012 RC SQL Server 2012 RC0 SQL Server 2012 ShowPlan Enhancements SQL Server 2012 T-SQL Enhancements SQL Server 2014 Sql Server 2014 Cardinality Estimator SQL Server 2014 Yenilikleri sql server 2016 SQL Server 2016 New Features SQL Server 2016 Yenilikleri sql server agent sql server assembly ekleme SQL Server Authentication sql server cast ve convert sql server clr integration sql server clr kullanımı sql server clr örnek sql server cluster SQL Server Code Name Denali SQL Server da Kullanıcı Yaratma SQL Server Database Project sql server dmv ve dmf sql server execution plan temizleme SQL Server Express Backup sql server fast n option örneği sql server fast n seçeneği SQL Server login sql server management stdio sql server merge into örnek sql server merge komutu sql server merge performnas sql server merge type 1 scd sql server merge type 2 scd sql server merge type 3 scd SQL Server Mobile Report Publisher SQL Server Network Interface SQL Server Onculeri SQL Server Öncüleri SQL Server Öncüleri Ankara SQL Server Performance sql server performans SQL Server Profiler SQL server recovery model SQL Server Reporting Services SQL Server Restore Generate Script SQL Server sa SQL Server Security SQL Server SQL DIAG sql server tarih dönüşüm işlemi sql server tarihsel veriler ile çalışma SQL Server User SQL Server yetki SQL Server yetkilendirme sql servera .net kodu ekleme SQL Serverda yetkilendirme nasıl SQL Serverda yetkilendirme nasıl yapılır sql to oracle linked server sql türkiye SQL User With Password sql yarışma SQLCMD sql'den oracle'a linked server SQLDIAG SQLDIAG Report SQLOS sqlsaturay SQLSaturday SQLSaturday #182 SQLSaturday #359 sqlsaturday #451 sqlserveronculeri ssas SSAS 2012 SSIS SSIS 2012 ssis SSMS SSMS Project SSMS Solution ssrs Stanby Database star schema STOPAT STOPBEFOREMARK STORAGE Storage Engine stored procedure stream analytics job subreports Subscriber Subscription subscriptions symmetric SYS sys.dm_db_index_physical_stats sys.dm_db_index_usage_stats sys.dm_db_missing_index_columns sys.dm_db_missing_index_details sys.dm_db_missing_index_group_stats sys.dm_db_missing_index_groups sys.server_principals sysadmin System Databases System View şifre şifreleme table table difference TableHasClustIndex TableHasIdentity TableHasPrimaryKey Tablet PC Tabular Mode Tabular Model TCP/IP TDE Tempdb time series Transaction Transactional Publication Transactional Replication Transparent Data Encryption trigger Troubleshooting TRY_CONVERT TRY_PARSE tsql t-sql T-SQL 2012 tsql mistakes Undocument union unionall Updatable ColumnStore İndex upgrade Veri ambarı veri edinme seçenekleri Veri Güvenliği Veri Hizmetleri Veri madenciliği Veri Mürekkep Oranı Veri Tabanı Yönetim Sistemleri Veri Tipi Veri Tutarlılık Modelleri Veri Yönetimi Evrimi verinin evrimi Veritabanı oluşturmak VERİTABANI YEDEKLEME STRATEJİLERİ veritabanı yedeklerinin şifrelenmesi Veritabanı Yöneticisi Veritabanı Yönetimi VeritPaq view any database Visual Studio VTYS web services Webcast Windows 7 Windows 8 Windows Authentication Windows Azure Windows Failover Clustering wmi WRITELOG xevents xp_sqlagent_enum_jobs YEDEKLEME STRATEJİLERİ Yedekli Çalışma Yetkilendirme Yiğit Aktan ysfkhvc yusuf kahveci Yüksek Erişilebilirlik Yüksek Süreklilik zip

Veritabanı file group yapısı ve büyük tablolarımızı başka bir file group'ta yeniden oluşturmak

Ekleyen: Nurullah ÇAKIR Sağlık Bakanlığı MS SQLSERVER CONSULTANT Tarih:12.02.2014 Okunma Sayısı:4162


Bu makalede veritabanı ilk oluşturulduğunda, ya da başka bir ortamdan geldiğinde file group yapısını düzenlerken nelere dikkat etmemiz gerektiğinden ve tablolarımızı başka bir file group'a neden ve nasıl aktaracağımızdan bahsedeceğim.

Bir tabloyu neden başka bir filegroup'ta oluşturmak gerekebileceğinden bahsedelim. Veritabanı başka bir ortamdan gelmiş, tek mdf file üzerinde oluşturulmuş ve çok büyüdüğü için IO beklemesi artmış olabilir. Bu durumda yeni bir filegroup oluşturup bu oluşturduğunuz file group içinde, veri büyüklüğü ve mevcut disk sayısına göre file yaratıp, büyük tablolarınızı yeni filegroup'a aktararak tablonuzu disklere eşit bir şekilde yayabilirsiniz. Bu işlemi var olan disk sisteminizi alt katmanda parçalara bölerekte gerçekleştirebilirsiniz. Bunu sistem grubundaki arkadaşlarınızla beraber planlayabilirsiniz. Tabi büyük tabloların hepsinin tek file üzerinde kalmasının bazı sakıncalarıda olabilir. Mesela 10 TB boyutu olan bir veritabanı içersinde 3 tane büyük tablo olduğunu düşünelim.  A tablosu 3 TB, B tablosu 2 TB, C tablosu 1 TB olsun. Eğer bütün bu tablolar aynı file group üzerinde olursa backup almakta sıkıntı yaşayabilirsiniz. Ama her tablo farklı file group üzerinde olursa file group backup alarak bu sıkıntıyı aşabilirsiniz. Ayrıca büyük veritabanlarında bütün data’nın mdf file üzerinde olması, sistem objeleride mdf file üzerinde olduğu için tavsiye edilmez. Sadece mdf file üzerinde büyümüş büyük bir veritabanında,eğer indexleriniz ayrı bir file group üzerinde değilse fragmente olmuş index sorgusunu çektiğinizde bile cevap alamayabilirsiniz. Bu durumda ihtiyaca göre mdf file üzerindeki tablolar yeni file group’lara dağıtılmalıdır. İlk tasarım aşamasında eğer veritabanının büyüyeceği biliniyorsa(ben 500 GB’ı geçecek veritabanların da bu yöntemi izliyorum) PRIMARY file group yerine yeni bir file group oluşturup bu file group’u default olarak seçmek daha avantajlıdır. Veritabanının ve oluşacak tabloların büyüklüğüne göre file group sayısını ve file sayılarını belirleyebilirsiniz. Indexlerinizin daha performanslı çalışması için indexlerinde ayrı bir file group üzerinde oluşturulmasında fayda var. Index büyüklüğüne göre file sayısını belirleyebilirsiniz.

Tablolarınızı yeni bir file group’a taşımanızın bir nedenide var olan file group’ta verilerin file’lara düzensiz dağılmış olması olabilir. İlk başta tek file ile başlanmış ve veri büyüklüğü arttıkça yeni file’lar eklenmişse tablolar file’lara düzensiz dağılacaktır. Clustered Index Rebuild işlemi bu sıkıntıyı bir nebze çözsede hiçbir zaman tam olarak çözmeyecektir. Çünkü clustered index rebuild işleminde, engine önce tablonun kaç tane file üzerinde yayılmış olduğunu görür. Daha sonra bu file’ların büyüklüklerine ve içlerindeki bulundukları boş miktara bakar. Ve her seferinde hangi file’ın içersinde daha fazla boş miktar varsa o file’ın içine daha fazla veri yazar. Bu şekilde her rebuild işlemi sonrasında boş olan file daha dolu olacak ve dolu olan file daha boş olacaktır. Bu yüzden yeni bir file group yaratıp tabloyu buraya taşımak daha mantıklı bir yol olacaktır.

Rebuild işlemi öncesi file doluluk oranları                Rebuild işlemi sonrası file doluluk oranları

 

Tabloyu yeni bir file group’a taşımak ile ilgili 3 durumdan bahsedeceğim.

1. Şimdi boyutu çok büyük olmayan ve içersinde lob data olmayan bir tablo yeni bir file group’a nasıl taşınır onu inceleyelim. Bu işlemi aşağıdaki şekilde gerçekleştirebiliriz.

CREATE UNIQUE CLUSTERED INDEX PK_XXX on dbo.Table_XXX (Column_XXX)
with (DROP_EXISTING=ON)
on [NEW FILEGROUP]
GO

Not: İlerde bu tabloda lob data veri olma ihtimali varsa 2.yöntemi izlemelisiniz.Aksi takdirde lob data veriler tabloyu taşıdığınız yeni filegroup’ta değilde eski file group altında konumlanır. Çünkü işlemi bu şekilde gerçekleştirdiğimizde tablonun desing’ındaki Text/Image File Group, Primary olarak kalacaktır.

2. Tablomuzun boyutu büyük ve içersinde lob data veri varsa ve loglama işlemleri için diskimizin yeterli olduğu bir durumda bir tabloyu yeni file group üzerinde aşağıdaki yöntemle oluşturarak bu işlemi gerçekleştirebilirsiniz.

Tablo üzerinde sağ tıklayıp design’ı seçiyoruz.

Tablo design görünümündeyken her hangi bir kolona tıklayıp properties penceresinden önce Regular Data Space Specification sekmesini açıyor ve Filegroup or Partition Scheme Name kısmından yeni file group’u seçiyoruz. Daha sonra Text/Image Filegroup üzerinde de aynı işlemi yapıyoruz.

Properties’den ilgili yerlerde yeni file group’u seçtikten sonra tekrar herhangi bir kolon üzerine tıklayıp Generate Change Script’e tıklıyoruz.

Not: Generate Chance Script seçeneğini kullanabilmeniz için SQL Server Management Studio üzerinden ToolsàOptionsàDesigners ‘a gelip Prevent Saving Changes that require table re-creatin checkbox’ındaki işareti kaldırmanız gerekiyor.

Script’imizi yukarıdaki şekilde kopyaladıktan sonra No diyerek ekranı kapatıyoruz ve scriptimizi yeni  bir query olarak çalıştırıyoruz. Görüldüğü gibi tablomuzda LOB DATA veri olduğu için bu işlemi tabloyu re-create işlemi yaparak gerçekleştirebildik. Eğer tablomuzda LOB DATA verimiz olmasaydı sadece  1.yöntemi kullanarak taşıma işlemini gerçekleştirebilecektik.

3. 2.Durumda, görüldüğü gibi tablomuzun aynısı Tmp_XXX şeklinde yeniden yaratılıyor ve tek insert ile tüm tablo bu Tmp_XXX tablosuna aktarılıyor. Bu durumda tablomuz çok büyük olduğunda, bu log file için ayrıca bir disk ihtiyacı demektir.  Recovery Mode’u simple’a çeksek bile tek insert işlemi olduğu için log büyümeye devam edecektir. Bu durumda recovery mode’u simple’a çekip aşağıdaki adımları izleyebiliriz.

2.Durumda yapılan işlemleri tekrarlayıp generate change script ile scriptimizi aldığımızda,

CREATE TABLE dbo.Tmp_ ile başlayan ifadeden önce bir transaction başlatılıyor. Bu transaction kapatılmadan  CREATE TABLE dbo.Tmp_  işlemi, insert işlemi ve sonrasında bazı nesne yaratma işlemleri yapılıyor. İnsert işleminin tamamının bir transaction içersinde olmaması için CREATE TABLE dbo.Tmp_ ifadesinden önce bu transaction’ı COMMIT ile sonlandırmanız gerekiyor. Tabi bu durumda sorgunun ilk halinde transaction’ın commit olduğu yeri bulup buradaki COMMIT ifadesininde kaldırılması gerekir.

Daha sonra normal sorguda aşağıdaki gibi yapılan insert işlemini silmeniz gerekiyor.

IF EXISTS(SELECT * FROM dbo.XXX)
	 EXEC('INSERT INTO dbo.Tmp_XXX (Tabloda bulunan kolonlar)
		SELECT Tabloda bulunan kolonlar FROM dbo.XXX WITH (HOLDLOCK TABLOCKX)')

Sildiğimiz bu sorgunun yerini aşağıdaki gibi dolduruyoruz.

CREATE TABLE #movedrows (RowID Primary Key Tipi primary key)
--Tablonun Primary Key tipi neyse burda RowID’nin tipini o şekilde veriyoruz. 

DECLARE @RowCount int
SET @RowCount = 10000
--Tablonuzun yapısına göre buradaki sayıyı artırıp azaltmak gerekir.
--Örneğin Tablonuz 1 TB ve satır sayınız 100000 ise bu değeri 10000’den daha küçük bir --değer olarak set edebilirsiniz. Burda verdiğiniz değere göre işlem süreniz azalacak 
--veya artacaktır. En optimum süreyi belirleyebilmek için tablonuzun büyüklüğüne ve 
--satır sayısına bakarak karar vermeniz gerekecektir. Tabi bu işlemleri önce test 
--ortamında yapmalısınız.

WHILE @RowCount > 0
BEGIN
SET IDENTITY_INSERT dbo.Tmp_XXX ON

INSERT INTO dbo.Tmp_XXX
           (Tablodaki Tüm Kolonlar)
OUTPUT inserted.Primary Key INTO #movedrows
--Burada Primary Key yazan yere Primary Key kolonunuzun ismini yazmalısınız. 
--Insert edilmiş satırların Primary Key kolonu #movedrows tablosuna aktarılıyor.
SELECT TOP 10000 Tablodaki Tüm Kolonlar
FROM dbo.XXX
WHERE NOT EXISTS (SELECT 1 FROM #movedrows WHERE RowID = Primary Key)
--Primary Key yazan yere Primary Key kolonunuzun ismini yazmalısınız. 
--Burdada #movedrows tablosunda olmayan 10000 satır çekiliyor.
SET @RowCount = @@ROWCOUNT
SET IDENTITY_INSERT dbo.Tmp_XXX OFF
END
DROP TABLE #movedrows

 

Yukarıdaki sorguda BEGIN ifadesinden sonra SET IDENTITY_INSERT dbo.Tmp_XXX ON cümleciği,

SET @RowCount = @@ROWCOUNT ifadesinden sonrada SET IDENTITY_INSERT dbo.Tmp_XXX OFF

cümleciği kullanılmış. Eğer sizin tablonuzda identitiy değer yoksa bu ifade sorgunuzun ilk halinde de olmayacaktır. Dolayısıyla yukarıdaki sorguyu eklemeden önce bu ifadeleri kaldırmalısınız. Eğer tablonuzda identitiy değer varsa yukarıdaki sorgunun içersinde de olduğu için sorgunuzun  ilk halindeki SET IDENTITY_INSERT dbo.Tmp_XXX ON ve SET IDENTITY_INSERT dbo.Tmp_XXX OFF cümleciklerini bulup kaldırmanız gerekecek.

Yukarıdaki sorguyla bütün tabloyu tek bir transaction’ın içersinde tek bir insert ile değilde belirlediğiniz sayıda satır insert ederek log file’ın büyümesini engellemiş olacaksınız.


yorum yaz
Mehmet Salih Deveci

Mehmet Salih Deveci


16.02.2014 12:33


Nurullah bey çok güzel bir konuya değinmişsiniz teşekkürler, böyle güzel paylaşımlar yapıp beklentileri artırıyorsunuz o zaman bizlerde devamını da bekleriz :)

Nurullah ÇAKIR

Nurullah ÇAKIR


28.03.2014 17:38


Teşekkür ederim Salih Bey.. Vakit buldukça devamı gelecek inşallah.:) Umarım faydalı olabiliyoruzdur. Bende sizi paylaşımlarınızdan ötürü tebrik ediyorum..

Üye Girişi

Kullanıcı Adınız

Şifreniz

Şifremi Unuttum

Arkadaşına Tavsiye Et

Tavsiye edebilmek için siteye giriş yapmalısınız