Parallesiem

➢  Parallelism merupakan kesetaraan atau kesesuaian unsur dalam sebuah kalimat. Dalam sebuah kalimat biasanya memiliki lebih dari satu unsur fungsi kalimat. Hal tersebut haruslah menggunakan unsur-unsur yang setara dan sesuai agar kalimat dapat dipahami maksudnya dengan jelas.

➢  Distributed Processing adalah mengerjakan semua proses pengolahaan data secara Bersama antara computer pusat dengan beberapa komputer yang lebih kecil dan saling dihubungkan melalui jalur komunikasi. Setiap computer tersebut memiliki prosesor mandiri sehingga mampu mengolah sebagian data secara terpisah, kemudian hasil pengolahan tadi digabungkan menjadi satu penyelesaian total. Jika salah satu prosesor mengalami kegagalan atau masalah yang lain akan mengambil alih tugasnya.

➢  Architectural Parallel Computer : 

1. Shared memory : prosesor dapat mengakses semua memori memori sebagai space alamat global

1.1.  Uniform Memory Access (UMA)

1.2.  Non-Uniform Memory Access(NUMA)

2.     Distributed memory : Prosesor mempunyai memori local sendiri. Inter-Prosesor memory perlu networking.

3.     Hybrid distributed-shared memory : Menggunakan shared dan dristributed.

➢  Konsep Dasar Thread Programming

Konsep dasar thread adlah unit dasar dari penggunaan CPU, thread mengandung thread ID, Program counter, register set, dan stack. Sebuah thread berbagi code section, data section dan sumber daya system operasi dengan thread lain yang dimiliki oleh proses yang sama. Thread juga sering disebut lightweight process. Sebuah proses tradisional atau heavyweight process mempunyai thread tunggal yang berfungsi sebagai pengendali. Perbedaan antara proses dengan thread tunggal dengan proses dengan thread yang banyak adalah proses dengan thread yang banyak dapat mengerjakan lebih dari satu tugas pada satu satuan waktu. 

 

➢  Konsep Dasar Massage Passing

Message passing interface (MPI) adalah standar yang digunakan untuk pemrograman paralel pada distributed memory (cluster). Program MPI akan berjalan secara multiprocessing, tiap proses memiliki memori tersendiri. Instalasi OpenMPI pada Debian/Ubuntu Linux dilakukan dengan menginstal paket mpi-defaultbin dan mpi-default-dev. Kompilasi dan eksekusi program menggunakan mpicc dan mpiexec -n <#> <program>.

➢  OpenMP

OpenMP adalah standar yang digunakan untuk pemrograman paralel multithreading pada arsitektur shared memory. Sudah termasuk pada compiler GCC, sehingga tidak perlu instalasi tambahan. Programmer cukup menambahkan direktif omp pada #pragma untuk memparalelkan program. Kompilasi program menggunakan gcc -fopenmp.

➢  Konsep Dasar Pemrograman CUDA GPU

GPU ( Graphical Processing Unit ) awalnya adalah sebuah prosesor yang berfungsi khusus untuk melakukan rendering pada kartu grafik saja, tetapi seiring dengan semakin meningkatnya kebutuhan rendering, terutama untuk mendekati waktu proses yang realtime, maka meningkat pula kemampuan prosesor grafik tersebut. akselerasi peningkatan teknologi GPU ini lebih cepat daripada peningkatan teknologi prosesor sesungguhnya ( CPU ), dan pada akhirnya GPU menjadi General Purpose, yang artinya tidak lagi hanya untuk melakukan rendering saja melainkan bisa untuk proses komputasi secara umum. CUDA merupakan teknologi anyar dari produsen kartu grafis Nvidia, dan mungkin belum banyak digunakan orang secara umum. Kartu grafis lebih banyak digunakan untuk menjalankan aplikasi game, namun dengan teknologi CUDA ini kartu grafis dapat digunakan lebih optimal ketika menjalankan sebuah software aplikasi. Fungsi kartu grafis Nvidia digunakan untuk membantu Processor (CPU) dalam melakukan kalkulasi dalam proses data.