В чем принципиальная разница между KVR13S9S8/4 и KVR1333D3S9/4G?

Если заведутся обе, в паре работать будут без проблем.
Принципиально - различие одно - емкость каждой микросхемы памяти - у KVR1333D3S9/4G - 2 Гбит, а у у KVR13S9S8/4 - 4 Гбит. И например H55 чипсет и его родственники не понимают 4 Гбитные микросхемы, память может определяться правильно, но операционка работать не будет.
Из Faq Kingston
https://www.kingston.com/ru/memory/desktop-notebook

Почему новая память DDR3 не работает с моим компьютером, хотя у нее те же характеристики, что и у старой памяти?

Такое может быть из-за плотности микросхем, особенно если ваша система основана на более старых DDR3. Вашей системе могут требоваться микросхемы DRAM плотностью 2Гбит (гигабит), а установленная вами память имеет плотность микросхем 4Гбит, которая с ней несовместима. Производители микросхем DRAM больше не производят микросхемы на 2Гбит (не путать с термином "гигабайт", который относится к емкости памяти). Поэтому мы не можем производить совместимые модули.
FAQ: KTM-073115-DTN-01

Некоторые старые материнки могут не поддерживать двух рэнковую память. И лучше их не смешивать. На производительность не влияет.

Тайминги. Причем, смотреть надо не только наиболее ходовые CAS Latency, RAS to CAS delay и RAS Precharge time но и остальные, если хочется прям детально разобраться.
Чипы. Посомтреть маркировку чипа, найти даташит на него, посмотреть чем отличаются.
Это все конечно же, если разбираться.
На бытовом уровне считается, что лучше всего память работает парными банками - то есть смешивать димы, построенные на разных чипах не стоит - работать-то оно будет, но со скоростями наиболее медленной планки.