Como implementar a leitura bloqueando usando threads POSIX

Question

Gostaria de implementar um cenário de produtor / consumidor que obedece interfaces que são aproximadamente:

class Consumer {
private:
    vector<char> read(size_t n) {
        // If the internal buffer has `n` elements, then dequeue them
        // Otherwise wait for more data and try again
    }
public:
    void run() {
        read(10);
        read(4839);
        // etc
    }
    void feed(const vector<char> &more) {
        // Safely queue the data
        // Notify `read` that there is now more data
    }
};

Neste caso, feed e run será executado em segmentos separados e read deve ser uma leitura de bloqueio (como recv e fread). Obviamente, vou precisar de algum tipo de exclusão mútua no meu deque, e vou precisar de algum tipo de sistema de notificação para informar read para tentar novamente.

Eu ouço variáveis ?? condição é o caminho a percorrer, mas todos os meus multithreading mentiras experiência com o Windows e estou tendo um momento difícil envolver minha cabeça em torno deles.

Obrigado por qualquer ajuda!

(Sim, eu sei que é ineficiente para retornar vetores. Não vamos entrar nisso.)

Answer 1

Este código não é produção pronta. Nenhuma verificação de erro é feita sobre os resultados de todas as chamadas de biblioteca.

Eu ter envolvido o bloqueio / desbloqueio do mutex em LockThread por isso é seguro exceção. Mas é sobre isso.

Além disso, se eu estava fazendo isso a sério Eu envolveria as variáveis ??mutex e condição dentro de objetos para que eles possam berço ser abusado dentro de outros métodos de Consumidor. Mas contanto que você tome nota que o bloqueio deve ser adquirido antes de utilizar a variável de condição (de qualquer forma), então esta situação simples pode ficar como está.

Fora de interesse você tem verificado a biblioteca enfiar impulso?

#include <iostream>
#include <vector>
#include <pthread.h>

class LockThread
{
    public:
    LockThread(pthread_mutex_t& m)
        :mutex(m)
    {
        pthread_mutex_lock(&mutex);
    }
    ~LockThread()
    {
        pthread_mutex_unlock(&mutex);
    }
    private:
        pthread_mutex_t& mutex;
};
class Consumer
{
    pthread_mutex_t     lock;
    pthread_cond_t      cond;
    std::vector<char>   unreadData;
    public:
    Consumer()
    {
        pthread_mutex_init(&lock,NULL);
        pthread_cond_init(&cond,NULL);
    }
    ~Consumer()
    {
        pthread_cond_destroy(&cond);
        pthread_mutex_destroy(&lock);
    }

    private:
        std::vector<char> read(size_t n)
        {
            LockThread  locker(lock);
            while (unreadData.size() < n)
            {
                // Must wait until we have n char.
                // This is a while loop because feed may not put enough in.

                // pthread_cond() releases the lock.
                // Thread will not be allowed to continue until
                // signal is called and this thread reacquires the lock.

                pthread_cond_wait(&cond,&lock);

                // Once released from the condition you will have re-aquired the lock.
                // Thus feed() must have exited and released the lock first.
            }

            /*
             * Not sure if this is exactly what you wanted.
             * But the data is copied out of the thread safe buffer
             * into something that can be returned.
             */
            std::vector<char>   result(n); // init result with size n
            std::copy(&unreadData[0],
                      &unreadData[n],
                      &result[0]);

            unreadData.erase(unreadData.begin(),
                             unreadData.begin() + n);
            return (result);
        }
public:
    void run()
    {
        read(10);
        read(4839);
        // etc
    }
    void feed(const std::vector<char> &more)
    {
        LockThread  locker(lock);

        // Once we acquire the lock we can safely modify the buffer.
        std::copy(more.begin(),more.end(),std::back_inserter(unreadData));

        // Only signal the thread if you have the lock
        // Otherwise race conditions happen.
        pthread_cond_signal(&cond);

        // destructor releases the lock and thus allows read thread to continue.
    }
};


int main()
{
    Consumer    c;
}

Answer 2

I tendem a usar o que eu chamo de um "Fila Sincronizado". Eu envolvo a fila normal e usar uma classe Semaphore tanto para bloqueio e fazer ler bloco apenas como você deseja:

#ifndef SYNCQUEUE_20061005_H_
#define SYNCQUEUE_20061005_H_

#include <queue>
#include "Semaphore.h"

// similar, but slightly simpler interface to std::queue
// this queue implementation will serialize pushes and pops
// and block on a pop while empty (as apposed to throwing an exception)
// it also locks as neccessary on insertion and removal to avoid race 
// conditions

template <class T, class C = std::deque<T> > class SyncQueue {
protected:
    std::queue<T, C>    m_Queue;
    Semaphore           m_Semaphore;
    Mutex               m_Mutex;

public:
    typedef typename std::queue<T, C>::value_type value_type;
    typedef typename std::queue<T, C>::size_type size_type;

    explicit SyncQueue(const C& a = C()) : m_Queue(a), m_Semaphore(0) {}

    bool empty() const              { return m_Queue.empty(); }
    size_type size() const          { return m_Queue.size(); }

    void push(const value_type& x);
    value_type pop();
};

template <class T, class C>
void SyncQueue<T, C>::push(const SyncQueue<T, C>::value_type &x) {
    // atomically push item
    m_Mutex.lock(); 
    m_Queue.push(x); 
    m_Mutex.unlock(); 

    // let blocking semaphore know another item has arrived
    m_Semaphore.v();
}

template <class T, class C>
typename SyncQueue<T, C>::value_type SyncQueue<T, C>::pop() {
    // block until we have at least one item
    m_Semaphore.p();

    // atomically read and pop front item
    m_Mutex.lock();
    value_type ret = m_Queue.front();
    m_Queue.pop();
    m_Mutex.unlock();

    return ret;
}

#endif

Você pode implementar semáforos e semáforos com os primitivos apropriadas em sua implementação threading.

NOTA: esta implementação é um exemplo para elementos individuais em uma fila, mas você poderia facilmente quebrar isso com uma função que buffers resultados até N foram fornecidos. algo como isto se é uma fila de caracteres:

std::vector<char> func(int size) {
    std::vector<char> result;
    while(result.size() != size) {
        result.push_back(my_sync_queue.pop());
    }
    return result;
}

Answer 3

Eu vou derrubar alguns semi-pseudo-código. Aqui estão meus comentários:

1) muito grandes grãos de bloqueio aqui. Se você precisa de um acesso mais rápido, você vai querer repensar suas estruturas de dados. O STL não é threadsafe.

2) Bloqueio irá bloquear até que o mutex permite-lo completamente. A estrutura de exclusão mútua é que ele permite que um fio através dela ao mesmo tempo com o mecanismo de bloqueio / desbloqueio. Não há necessidade de votação ou de algum tipo de estrutura de exceção-esque.

3) Este é um corte muito sintaticamente hacky para o problema. Eu não estou sendo preciso com a API nem sintaxe C ++, mas eu acredito que dá uma solução semanticamente correta.

4) Editado em resposta ao comentário.

class piper
{
pthread_mutex queuemutex;
pthread_mutex readymutex;
bool isReady; //init to false by constructor

//whatever else
};

piper::read()
{//whatever
pthread_mutex_lock(&queuemutex)
if(myqueue.size() >= n)
{ 
   return_queue_vector.push_back(/* you know what to do here */)

    pthread_mutex_lock(&readymutex)
    isReady = false;
    pthread_mutex_unlock(&readymutex)
}
pthread_mutex_unlock(&queuemutex)
}

piper::push_em_in()
{
//more whatever
pthread_mutex_lock(&queuemutex)
//push push push
if(myqueue.size() >= n)
{
    pthread_mutex_lock(&readymutex)
    isReady = true;
    pthread_mutex_unlock(&readymutex)
}
pthread_mutex_unlock(&queuemutex)
}

Answer 4

Apenas por diversão, aqui é uma implementação rápida e suja usando Boost. Ele usa pthreads sob o capô em plataformas que suportam, e em operações do Windows usa o Windows.

boost::mutex access;
boost::condition cond;

// consumer
data read()
{
  boost::mutex::scoped_lock lock(access);
  // this blocks until the data is ready
  cond.wait(lock);

  // queue is ready
  return data_from_queue();
}

// producer
void push(data)
{
  boost::mutex::scoped_lock lock(access);
  // add data to queue

  if (queue_has_enough_data())
    cond.notify_one();  
}

Answer 5

Para se divertir ainda mais, aqui é a minha versão final. STL-ized por nenhuma boa razão. : -)

#include <algorithm>
#include <deque>
#include <pthread.h>

template<typename T>
class MultithreadedReader {
    std::deque<T>   buffer;
    pthread_mutex_t moreDataMutex;
    pthread_cond_t  moreDataCond;

protected:
    template<typename OutputIterator>
    void read(size_t count, OutputIterator result) {
        pthread_mutex_lock(&moreDataMutex);

        while (buffer.size() < count) {
            pthread_cond_wait(&moreDataCond, &moreDataMutex);
        }
        std::copy(buffer.begin(), buffer.begin() + count, result);
        buffer.erase(buffer.begin(), buffer.begin() + count);

        pthread_mutex_unlock(&moreDataMutex);
    }

public:
    MultithreadedReader() {
        pthread_mutex_init(&moreDataMutex, 0);
        pthread_cond_init(&moreDataCond, 0);
    }

    ~MultithreadedReader() {
        pthread_cond_destroy(&moreDataCond);
        pthread_mutex_destroy(&moreDataMutex);
    }

    template<typename InputIterator>
    void feed(InputIterator first, InputIterator last) {
        pthread_mutex_lock(&moreDataMutex);

        buffer.insert(buffer.end(), first, last);
        pthread_cond_signal(&moreDataCond);

        pthread_mutex_unlock(&moreDataMutex);
    }
};

Answer 6

Glib assíncronos Filas fornecer o bloqueio e o sono ao ler uma fila vazia que você está procurando. Consulte http://library.gnome.org/devel/glib /2.20/glib-Asynchronous-Queues.html Você pode combiná-los com gthreads ou piscinas gthread.