POSIXスレッドを使用してブロッキング読み取りを実装する方法
-
03-07-2019 - |
質問
おおよそのインターフェイスに従うプロデューサー/コンシューマーシナリオを実装したい:
class Consumer {
private:
vector<char> read(size_t n) {
// If the internal buffer has `n` elements, then dequeue them
// Otherwise wait for more data and try again
}
public:
void run() {
read(10);
read(4839);
// etc
}
void feed(const vector<char> &more) {
// Safely queue the data
// Notify `read` that there is now more data
}
};
この場合、 feed
と run
は別々のスレッドで実行され、 read
はブロッキング読み取り( recv
および fread
)。明らかに、dequeには何らかの相互排除が必要であり、 read
に再試行を通知する何らかの通知システムが必要になります。
条件変数が道であると聞きましたが、マルチスレッドの経験はすべてWindowsにあり、それらを頭で包むのに苦労しています。
ご協力ありがとうございます!
(はい、ベクトルを返すのは非効率的だとわかっています。それには入らないでください。)
解決
このコードは生産準備ができていません。 ライブラリー呼び出しの結果に対してエラーチェックは行われません。
ロックスレッドでmutexのロック/ロック解除をラップしたので、例外セーフです。しかし、それはそれについてです。
さらに、これを真剣にやっていた場合、mutexおよび条件変数をオブジェクト内にラップして、Consumerの他のメソッド内で乱用される可能性があります。ただし、条件変数を(何らかの方法で)使用する前にロックを取得する必要があることに注意する限り、この単純な状況はそのままでも構いません。
興味のないブーストスレッドライブラリをチェックしましたか?
#include <iostream>
#include <vector>
#include <pthread.h>
class LockThread
{
public:
LockThread(pthread_mutex_t& m)
:mutex(m)
{
pthread_mutex_lock(&mutex);
}
~LockThread()
{
pthread_mutex_unlock(&mutex);
}
private:
pthread_mutex_t& mutex;
};
class Consumer
{
pthread_mutex_t lock;
pthread_cond_t cond;
std::vector<char> unreadData;
public:
Consumer()
{
pthread_mutex_init(&lock,NULL);
pthread_cond_init(&cond,NULL);
}
~Consumer()
{
pthread_cond_destroy(&cond);
pthread_mutex_destroy(&lock);
}
private:
std::vector<char> read(size_t n)
{
LockThread locker(lock);
while (unreadData.size() < n)
{
// Must wait until we have n char.
// This is a while loop because feed may not put enough in.
// pthread_cond() releases the lock.
// Thread will not be allowed to continue until
// signal is called and this thread reacquires the lock.
pthread_cond_wait(&cond,&lock);
// Once released from the condition you will have re-aquired the lock.
// Thus feed() must have exited and released the lock first.
}
/*
* Not sure if this is exactly what you wanted.
* But the data is copied out of the thread safe buffer
* into something that can be returned.
*/
std::vector<char> result(n); // init result with size n
std::copy(&unreadData[0],
&unreadData[n],
&result[0]);
unreadData.erase(unreadData.begin(),
unreadData.begin() + n);
return (result);
}
public:
void run()
{
read(10);
read(4839);
// etc
}
void feed(const std::vector<char> &more)
{
LockThread locker(lock);
// Once we acquire the lock we can safely modify the buffer.
std::copy(more.begin(),more.end(),std::back_inserter(unreadData));
// Only signal the thread if you have the lock
// Otherwise race conditions happen.
pthread_cond_signal(&cond);
// destructor releases the lock and thus allows read thread to continue.
}
};
int main()
{
Consumer c;
}
他のヒント
「同期キュー」と呼ぶものを使用する傾向があります。通常のキューをラップし、ロックと読み取りブロックの作成の両方にSemaphoreクラスを使用します:
#ifndef SYNCQUEUE_20061005_H_
#define SYNCQUEUE_20061005_H_
#include <queue>
#include "Semaphore.h"
// similar, but slightly simpler interface to std::queue
// this queue implementation will serialize pushes and pops
// and block on a pop while empty (as apposed to throwing an exception)
// it also locks as neccessary on insertion and removal to avoid race
// conditions
template <class T, class C = std::deque<T> > class SyncQueue {
protected:
std::queue<T, C> m_Queue;
Semaphore m_Semaphore;
Mutex m_Mutex;
public:
typedef typename std::queue<T, C>::value_type value_type;
typedef typename std::queue<T, C>::size_type size_type;
explicit SyncQueue(const C& a = C()) : m_Queue(a), m_Semaphore(0) {}
bool empty() const { return m_Queue.empty(); }
size_type size() const { return m_Queue.size(); }
void push(const value_type& x);
value_type pop();
};
template <class T, class C>
void SyncQueue<T, C>::push(const SyncQueue<T, C>::value_type &x) {
// atomically push item
m_Mutex.lock();
m_Queue.push(x);
m_Mutex.unlock();
// let blocking semaphore know another item has arrived
m_Semaphore.v();
}
template <class T, class C>
typename SyncQueue<T, C>::value_type SyncQueue<T, C>::pop() {
// block until we have at least one item
m_Semaphore.p();
// atomically read and pop front item
m_Mutex.lock();
value_type ret = m_Queue.front();
m_Queue.pop();
m_Mutex.unlock();
return ret;
}
#endif
セマフォとミューテックスを適切なプリミティブでスレッド実装に実装できます。
注:この実装はキュー内の単一要素の例ですが、Nが提供されるまで結果をバッファリングする関数でこれを簡単にラップできます。文字のキューの場合は次のようになります:
std::vector<char> func(int size) {
std::vector<char> result;
while(result.size() != size) {
result.push_back(my_sync_queue.pop());
}
return result;
}
いくつかの準擬似コードをスローします。私のコメントは次のとおりです。
1)ここで非常に大きなロックの粒。より高速なアクセスが必要な場合は、データ構造を再考する必要があります。 STLはスレッドセーフではありません。
2)ミューテックスが許可するまでロックはブロックされます。ミューテックス構造では、ロック/ロック解除メカニズムを使用して、一度に1つのスレッドを通過させることができます。ポーリングや何らかの例外的な構造は必要ありません。
3)これは、問題の構文的にかなりハッキングされたカットです。 APIもC ++構文も正確ではありませんが、意味的に正しいソリューションを提供すると考えています。
4)コメントに応じて編集。
class piper
{
pthread_mutex queuemutex;
pthread_mutex readymutex;
bool isReady; //init to false by constructor
//whatever else
};
piper::read()
{//whatever
pthread_mutex_lock(&queuemutex)
if(myqueue.size() >= n)
{
return_queue_vector.push_back(/* you know what to do here */)
pthread_mutex_lock(&readymutex)
isReady = false;
pthread_mutex_unlock(&readymutex)
}
pthread_mutex_unlock(&queuemutex)
}
piper::push_em_in()
{
//more whatever
pthread_mutex_lock(&queuemutex)
//push push push
if(myqueue.size() >= n)
{
pthread_mutex_lock(&readymutex)
isReady = true;
pthread_mutex_unlock(&readymutex)
}
pthread_mutex_unlock(&queuemutex)
}
楽しみのために、Boostを使用した迅速でダーティな実装を紹介します。それをサポートするプラットフォームではフードの下でpthreadを使用し、WindowsではWindows操作を使用します。
boost::mutex access;
boost::condition cond;
// consumer
data read()
{
boost::mutex::scoped_lock lock(access);
// this blocks until the data is ready
cond.wait(lock);
// queue is ready
return data_from_queue();
}
// producer
void push(data)
{
boost::mutex::scoped_lock lock(access);
// add data to queue
if (queue_has_enough_data())
cond.notify_one();
}
さらに楽しくするために、ここに私の最終版を示します。正当な理由なしにSTL化。 :-)
#include <algorithm>
#include <deque>
#include <pthread.h>
template<typename T>
class MultithreadedReader {
std::deque<T> buffer;
pthread_mutex_t moreDataMutex;
pthread_cond_t moreDataCond;
protected:
template<typename OutputIterator>
void read(size_t count, OutputIterator result) {
pthread_mutex_lock(&moreDataMutex);
while (buffer.size() < count) {
pthread_cond_wait(&moreDataCond, &moreDataMutex);
}
std::copy(buffer.begin(), buffer.begin() + count, result);
buffer.erase(buffer.begin(), buffer.begin() + count);
pthread_mutex_unlock(&moreDataMutex);
}
public:
MultithreadedReader() {
pthread_mutex_init(&moreDataMutex, 0);
pthread_cond_init(&moreDataCond, 0);
}
~MultithreadedReader() {
pthread_cond_destroy(&moreDataCond);
pthread_mutex_destroy(&moreDataMutex);
}
template<typename InputIterator>
void feed(InputIterator first, InputIterator last) {
pthread_mutex_lock(&moreDataMutex);
buffer.insert(buffer.end(), first, last);
pthread_cond_signal(&moreDataCond);
pthread_mutex_unlock(&moreDataMutex);
}
};
Glib非同期キューは、探している空のキューの読み取り時にロックとスリープを提供します。 http://library.gnome.org/devel/glibを参照してください。 /2.20/glib-Asynchronous-Queues.html これらをgthreadまたはgthreadプールと組み合わせることができます。